Un grupo de más de 130 científicos, líderes empresariales y políticos, entre los que destacan tres premios Turing (el “Nobel de la informática”), han realizado un llamamiento urgente en la ONU para que se establezcan “líneas rojas” internacionales que protejan a la humanidad de los riesgos más graves de la inteligencia artificial.
Puntos principales:
- Riesgos Inaceptables: La petición, firmada en una cumbre en Nueva York, advierte sobre peligros “inaceptables” si la IA supera las capacidades humanas sin control. Se mencionan riesgos como:
- La creación de armas autónomas letales.
- Sistemas de IA que puedan manipular a las personas a gran escala.
- El desarrollo de agentes de IA con sus propios objetivos que podrían actuar en contra de los intereses humanos.
- Prohibición de “Modelos de Riesgo Extremo”: Los firmantes piden específicamente la prohibición global del desarrollo y lanzamiento público de modelos de IA cuyas capacidades superen un cierto umbral de potencia (definido por el uso de una cantidad de cómputo mayor a un límite específico), hasta que se demuestre su seguridad.
- Críticas a la Autorregulación: El texto es muy crítico con el enfoque actual de autorregulación por parte de las grandes empresas tecnológicas, argumentando que es insuficiente y que los intereses comerciales no pueden anteponerse a la seguridad global.
- Un llamado a la acción inmediata: Los firmantes instan a los Estados miembros de la ONU a llegar a un acuerdo antes de que termine 2025 para crear un marco legal vinculante, similar al tratado sobre armas biológicas. El objetivo es evitar una carrera armamentística en IA que podría volverse incontrolable.
En conclusión, la nota refleja una alarma creciente dentro de la comunidad científica y tecnológica sobre los posibles peligros existenciales de la IA descontrolada, y exige una acción política rápida y decisiva a nivel internacional para establecer límites estrictos y evitar riesgos catastróficos.
