Sobre Nosotros
El Consejo Asesor Nacional de Inteligencia Artificial (CANIA) es una organización sin fines de lucro conformada por un diverso conjunto de profesionales del ámbito académico, civil, industrial y mediático que trabajan en conjunto para promover soluciones que impulsen el avance de la IA en beneficio de las personas y la sociedad en España.
Desarrollamos herramientas, recomendaciones y otros recursos al invitar a voces de toda la comunidad de IA y más allá para compartir ideas que puedan sintetizarse en orientaciones accionables. Luego trabajamos para impulsar su adopción en la práctica, informar sobre políticas públicas y avanzar en la comprensión pública. A través del diálogo, la investigación y la educación, CANIA aborda las preguntas más importantes y difíciles sobre el futuro de la IA.
Nuestra Misión
Nuestra Visión
Nuestros Valores
Equidad e Inclusión
Convicción y Fiabilidad
Aprendizaje y Compasión
Transparencia y Responsabilidad
Diligencia y Excelencia
Nuestros Pilares
CANIA se fundó sobre seis pilares temáticos. Estos pilares representan seis conjuntos de problemas donde nuestra organización ve algunos de los mayores riesgos y oportunidades para la IA.
IA crítica para la seguridad
IA Justa, Transparente y Responsable
La IA tiene el potencial de proporcionar valor a la sociedad al reconocer patrones y sacar inferencias de grandes cantidades de datos. Los datos pueden ser aprovechados para desarrollar sistemas de diagnóstico útiles y motores de recomendación, y para apoyar a las personas en hacer avances en áreas como la biomedicina, la salud pública, la seguridad, la justicia penal, la educación y la sostenibilidad.
Si bien estos resultados prometen proporcionar beneficios reales, debemos ser sensibles a la posibilidad de que haya suposiciones y sesgos ocultos en los datos, y por lo tanto en los sistemas construidos a partir de esos datos, además de una amplia gama de otras opciones del sistema que pueden verse afectadas por sesgos, suposiciones y limitaciones. Esto puede llevar a acciones y recomendaciones que replican esos sesgos y tienen graves puntos ciegos.
Los investigadores, funcionarios y el público deben ser sensibles a estas posibilidades y debemos buscar desarrollar métodos que detecten y corrijan esos errores y sesgos, no que los repliquen. También necesitamos trabajar para desarrollar sistemas que puedan explicar el razonamiento para las inferencias.
Perseguiremos oportunidades para desarrollar mejores prácticas en torno al desarrollo e implementación de sistemas de IA justos, explicables y responsables.
IA, Trabajo y Economía
Los avances en IA sin duda tendrán múltiples influencias en la distribución de empleos y la naturaleza del trabajo. Si bien los avances prometen inyectar un gran valor en la economía, también pueden ser la fuente de interrupciones a medida que se crean nuevos tipos de trabajo y otros tipos de trabajo se vuelven menos necesarios debido a la automatización.
Las discusiones están aumentando sobre los mejores enfoques para minimizar las interrupciones potenciales, asegurándose de que los frutos de los avances en IA se compartan ampliamente y se fomente la competencia y la innovación sin sofocarlas. Buscamos estudiar y comprender los mejores caminos a seguir y desempeñar un papel en esta discusión.
Colaboraciones entre Personas y Sistemas de IA
Un área prometedora de la IA es el diseño de sistemas que aumentan la percepción, cognición y habilidades de resolución de problemas de las personas. Ejemplos incluyen el uso de tecnologías de IA para ayudar a los médicos a hacer diagnósticos más oportunos y precisos, y la asistencia proporcionada a los conductores de automóviles para ayudarles a evitar situaciones peligrosas y accidentes.
Las oportunidades para la I+D y el desarrollo de mejores prácticas en la colaboración entre humanos y sistemas de IA incluyen métodos que proporcionen a las personas claridad sobre las comprensiones y la confianza que los sistemas de IA tienen sobre las situaciones, medios para coordinar las contribuciones humanas y de IA a la resolución de problemas, y permitir que los sistemas de IA trabajen con las personas para resolver incertidumbres sobre los objetivos humanos.
Influencias Sociales y Societales de la IA
Los avances en IA afectarán a las personas y a la sociedad de numerosas maneras, incluyendo posibles influencias en la privacidad, la democracia, la justicia penal y los derechos humanos. Por ejemplo, mientras que las tecnologías que personalizan la información y que asisten a las personas con recomendaciones pueden proporcionar una valiosa ayuda, también podrían manipular inadvertida o deliberadamente a las personas e influir en las opiniones.
Buscamos promover la colaboración reflexiva y el diálogo abierto sobre las posibles influencias sutiles y relevantes de la IA en las personas y la sociedad.
IA y Bien Social
La IA ofrece un gran potencial para promover el bien público, por ejemplo, en los ámbitos de la educación, la vivienda, la salud pública y la sostenibilidad. Vemos un gran valor en colaborar con organizaciones públicas y privadas, incluyendo academia, sociedades científicas, ONGs, emprendedores sociales y ciudadanos privados interesados, para promover discusiones y catalizar esfuerzos para abordar los desafíos más apremiantes de la sociedad.
Algunos de estos proyectos pueden abordar desafíos sociales profundos y ser proyectos ambiciosos que podrían tener impactos de gran alcance. Otros pueden ser ideas creativas que podrían producir rápidamente resultados positivos al aprovechar los avances en IA.
Nuestros Principios Básicos
Creemos que las tecnologías de inteligencia artificial tienen un gran potencial para mejorar la calidad de vida de las personas y pueden aprovecharse para ayudar a la humanidad a abordar importantes desafíos globales como el cambio climático, la alimentación, la desigualdad, la salud y la educación.
Nuestros miembros creen en y se esfuerzan por mantener los siguientes principios:
Buscaremos garantizar que las tecnologías de IA beneficien y empoderen a la mayor cantidad posible de personas.
Educaremos y escucharemos al público, y nos comprometeremos activamente con las partes interesadas para buscar sus comentarios sobre nuestro enfoque, informarles sobre nuestro trabajo y abordar sus preguntas.
Estamos comprometidos con la investigación abierta y el diálogo sobre las implicaciones éticas, sociales, económicas y legales de la IA.
Creemos que los esfuerzos de investigación y desarrollo en IA deben involucrar activamente y rendir cuentas a una amplia gama de partes interesadas.
Trabajaremos para maximizar los beneficios y abordar el potencial de:
- Proteger la privacidad y seguridad de las personas.
Esforzarnos por comprender y respetar los intereses de todas las partes que puedan verse afectadas por los avances en IA. - Garantizar que las comunidades de investigación y desarrollo en IA sigan siendo socialmente responsables, sensibles y comprometidas directamente con las posibles influencias de las tecnologías de IA en la sociedad en general.
Asegurar que la investigación y tecnología de IA sean sólidas, confiables, dignas de confianza y operen dentro de límites seguros. - Oponernos al desarrollo y uso de tecnologías de IA que violen convenciones internacionales o derechos humanos, y promover salvaguardas y tecnologías que no causen daño.
Creemos que es importante que el funcionamiento de los sistemas de IA sea comprensible e interpretable por las personas, con el propósito de explicar la tecnología.
Nos esforzamos por crear una cultura de cooperación, confianza y apertura entre los científicos e ingenieros de IA para ayudarnos a todos a alcanzar mejor estos objetivos.
