Cada vez más, los sistemas de IA se implementan en contextos donde los riesgos de seguridad pueden tener consecuencias generalizadas, incluyendo medicina, finanzas, transporte y redes sociales. Esto hace que anticipar y mitigar tales riesgos, tanto a corto como a largo plazo, sea una necesidad urgente para la sociedad.

Nuestro Programa de IA Crítica para la Seguridad reúne a socios y otros interesados para desarrollar mejores prácticas que puedan ayudarnos a prevenir accidentes probables, usos indebidos y consecuencias no deseadas de las tecnologías de IA. No es necesario esperar a que ocurran incidentes de este tipo. Como muestra nuestro trabajo, se pueden tomar precauciones tan temprano como en la etapa de investigación para garantizar el desarrollo de sistemas de IA seguros.