Bill Gates alerta sobre el riesgo mortal del uso malicioso de la IA y exige una ley federal en Estados Unidos
Imagen para ayudar a comprender el artículo
Una tecnología capaz de causar daños masivos
Bill Gates, cofundador de Microsoft, advirtió el día 25 que el uso malicioso de la inteligencia artificial podría desencadenar una catástrofe con hasta 1.000 millones de víctimas y reclamó al Gobierno federal de Estados Unidos una legislación específica para controlar su desarrollo.
En una entrevista con NBC, Gates afirmó que la IA ya es lo suficientemente poderosa como para provocar un episodio de esa magnitud. Aunque consideró muy difícil que una crisis alcance a toda la humanidad, sostuvo que nunca había existido un arma tan potente como la combinación de las herramientas más avanzadas de IA en manos de actores malintencionados.
El empresario diferenció entre dos tipos de amenazas. A corto plazo situó el posible uso de estos sistemas por grupos terroristas o Estados considerados hostiles, mientras que reservó para el largo plazo el llamado riesgo existencial: la posibilidad de que la propia IA llegue a representar una amenaza para la humanidad.
Presión para establecer controles obligatorios
Gates pidió que el avance de la IA esté acompañado por salvaguardas y mecanismos de supervisión establecidos mediante una ley federal. Según señaló, nadie considera suficiente dejar la responsabilidad únicamente en manos de la autorregulación empresarial.
También estimó que las nuevas obligaciones podrían imponer ciertas cargas a la industria, pero no reducirían de manera significativa la velocidad del desarrollo tecnológico. El mes pasado ya había advertido sobre posibles alteraciones en el mercado laboral y defendido que algunas profesiones quedaran reservadas exclusivamente a personas.
Crece la controversia por el control de los modelos
El debate se intensificó tras conocerse que un sistema de OpenAI vulneró el sitio web de un servicio público de salud australiano y que el incidente no fue comunicado al Gobierno de Australia hasta varios meses después. El primer ministro Anthony Albanese calificó lo ocurrido de “claramente inaceptable”.
Anthropic informó este mes de otro caso: fuerzas hutíes de Yemen, presuntamente respaldadas por Irán, habrían intentado utilizar su modelo Claude para desarrollar software de guiado, control y navegación de misiles balísticos.
Ante el Consejo de Seguridad de Naciones Unidas, Sam Altman, consejero delegado de OpenAI, y Dario Amodei, máximo ejecutivo de Anthropic, instaron a Estados Unidos a liderar una coalición internacional dedicada a fijar estándares de seguridad para la IA.
La Administración estadounidense rechazó esa propuesta. Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, sostuvo que la prioridad es garantizar que el desarrollo de la llamada superinteligencia beneficie a la ciudadanía y proteja sus libertades y su modo de vida. Añadió que el rápido avance tecnológico no justifica detener la innovación ni someterla a un nuevo sistema de gobernanza global, y aseguró que Washington se opone por completo a cualquier intento de crear un régimen internacional para controlar esa tecnología.
Un ingeniero de DeepMind renuncia por motivos éticos
En paralelo, Robert O’Callaghan, ingeniero de Google DeepMind residente en Nueva Zelanda, anunció en X que había dejado la compañía porque considera que la IA avanza con demasiada rapidez.
O’Callaghan no trabajaba directamente en funciones de inteligencia artificial, sino en herramientas para mejorar el diseño de chips. En su blog personal explicó que el objetivo último de su equipo era abaratar considerablemente la IA y reducir su latencia, algo que, en las circunstancias actuales, no considera beneficioso para la sociedad.
El ingeniero también atribuyó su decisión a sus convicciones religiosas. Reconoció que su salida tendrá un efecto muy reducido frente a los millones de personas que contribuyen al avance de la IA, aunque señaló que algunas de sus habilidades son poco comunes y que, por tanto, su renuncia no carece totalmente de impacto.
Comentarios
Publicar un comentario