¿Qué efectos catastróficos podría provocar la inteligencia artificial en nuestra sociedad?

Investigadores de diferentes universidades y centros de investigación de todo el mundo han publicado un artículo en la revista Science que alerta sobre los peligros de la Inteligencia Artificial (IA) y los posibles efectos catastróficos que pueden causar los fallos de esta tecnología. 

Según los expertos, los sistemas de IA se han utilizado en una amplia variedad de aplicaciones, desde el diagnóstico médico hasta la navegación de coches autónomos, pero son escenarios "de alto riesgo" en los que un fallo podría ser fatal.

Esta publicación se produce solo quince días después de que 5.500 expertos en IA de todo el mundo publicaran una carta abierta en la que pedían una pausa en los experimentos con la IA más potente y avanzada. 

Los científicos que han firmado el artículo de la revista Science han hecho hincapié en la necesidad de informes detallados y una mayor disponibilidad de datos utilizados para los análisis, y consideran que así se acercaría la investigación sobre IA a los protocolos ya existentes en otras disciplinas, como la medicina o la física.

Riesgos

Según el investigador Fernando Martínez-Plumed, es esencial reducir y mitigar los riesgos y garantizar un uso responsable y seguro de la Inteligencia Artificial (IA). Para lograrlo, es necesario que los investigadores y desarrolladores trabajen juntos para crear tecnologías más seguras, éticas, transparentes y justas, mientras que las empresas y los gobiernos establecen regulaciones y estándares. 

El experto destacó que algunas tecnologías de IA pueden tener más riesgos que otras, como las que implican la toma de decisiones críticas o el acceso a información privada. Los sistemas más modernos pueden generar contenido falso, engañoso o peligroso, como noticias falsas, contenidos ofensivos, discriminatorios e ilegales. 

Además, los sistemas de IA se entrenan y aprenden a partir de conjuntos de datos que reflejan y amplifican los mismos prejuicios y desigualdades presentes en la sociedad. Por lo tanto, es fundamental identificar y tratar los sesgos en los sistemas de IA para avanzar hacia sistemas más equitativos y justos, guiados por valores éticos y sociales. 

En resumen, la IA puede ser una herramienta poderosa para resolver algunos de los problemas más apremiantes de la sociedad, pero solo será eficaz si se utiliza de manera responsable y reflexiva.

El artículo cuenta con la firma de científicos de varias instituciones académicas y científicas, entre las que destacan universidades como la de Cambridge, Harvard, Stanford, Shandong (China), la Politécnica de Valencia, el Imperial College London, el Instituto Tecnológico de Massachusetts (MIT), así como empresas como Google o la británica DeepMind.