Un informe internacional destaca los peligros extremos asociados con el uso generalizado de la IA, como la pérdida masiva de empleos, el terrorismo y el descontrol de los sistemas
Un informe sin precedentes, respaldado por 30 países, incluidas potencias como Estados Unidos y China, advierte sobre los riesgos potenciales de la inteligencia artificial avanzada, resaltando el impacto disruptivo que podría tener en la sociedad, la seguridad y la economía global. El “Informe Científico Internacional sobre la Seguridad de la Inteligencia Artificial Avanzada” subraya que, a medida que los sistemas de IA continúan evolucionando rápidamente, surgen nuevos peligros que requieren una regulación urgente y medidas de seguridad.
El informe, elaborado por un grupo de 100 expertos en IA, señala que la tecnología ha avanzado a un ritmo inesperado. Si bien en el pasado los sistemas de IA eran limitados en su capacidad, hoy en día son capaces de escribir programas, generar imágenes realistas y mantener conversaciones extendidas. Sin embargo, la capacidad de estos sistemas también conlleva riesgos adicionales. “A medida que la IA de propósito general se vuelve más capaz, gradualmente emergen evidencias de riesgos adicionales”, afirma el estudio.
Uno de los mayores temores es el uso malicioso de la IA, que podría facilitar la creación de armas biológicas o químicas a partir de planes detallados generados por modelos de IA. Además, los sistemas de IA de propósito general podrían transformar radicalmente el mercado laboral, desplazando a trabajadores y afectando salarios, aunque existen desacuerdos sobre la magnitud de este impacto.
Otro riesgo señalado en el informe es el posible descontrol de los sistemas de IA. Estos podrían operar fuera del alcance de los supervisores humanos o volverse incontrolables debido a la falta de comprensión de los desarrolladores sobre cómo funcionan sus modelos. Este tipo de situaciones podría llevar a consecuencias impredecibles y catastróficas.
El informe destaca la incertidumbre que existe dentro de la comunidad científica sobre el futuro de la IA, particularmente en cuanto a cuándo y cómo los sistemas superarán las capacidades humanas en diversas tareas. Algunos escenarios son prometedores, mientras que otros son profundamente preocupantes.
El informe, que será presentado antes de la cumbre sobre inteligencia artificial que se celebrará en París en febrero, es el resultado de una colaboración internacional sin precedentes. En esta cumbre, los líderes mundiales y expertos en tecnología discutirán cómo mitigar los riesgos de la IA y crear una declaración común sobre el desarrollo sostenible de la tecnología.
El objetivo del informe no es ofrecer soluciones o recomendaciones políticas específicas, sino proporcionar a los responsables de las políticas una síntesis comprensible de los riesgos asociados con la inteligencia artificial avanzada. Yoshua Bengio, uno de los principales científicos de IA que lideró el estudio, subraya la importancia de comprender mejor los sistemas que estamos construyendo para poder tomar decisiones más informadas en el futuro.