Te puede interesar
El creador de Claude pide frenar ya la IA porque en seis meses puede tomar el control global de internet
Una alarma extrema a escala global se disparó este sábado luego que el CEO de Anthropic, Dario Amodei, pidiera frenar ya el avance de la Inteligencia Artificial (IA) porque, en un plazo de 6 a 12 meses, un ataque de un enjambre de agentes de IA autónomos puede tomar el control de internet y causar pérdidas a la economía mundial de escala catastrófica y en última instancia, provocar la extinción de los humanos.
La alerta de Amodei pasó a otro nivel cuando el magnate Elon Musk y el CEO de OpenAI, Sam Altman, apoyaron su diagnóstico.
La preocupación estalló al advertir que los modelos avanzados de IA que se automejoran, están desarrollando conductas agresivas y de rebeldía frente a las instrucciones de los humanos. El caso que destapó este riesgo fue el incidente Hugging Face, cuando agentes de IA avanzada de Open IA se coordinaron, rompieron el cerco diseñado para testear su evolución, se metieron en la web y atacaron a la empresa Huggin Face.
Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots
En ese experimento, 700 agentes autónomos de Inteligencia artificial de OpenAI escaparon de su entorno de pruebas aislado y vulneraron los servidores de la plataforma de código abierto Hugging Face, consiguiendo conexión a internet sin supervisión de humanos.

«Me preocupa que, en un plazo de 6 a 12 meses, un enjambre así pueda ser capaz de tomar el control de toda internet mediante una red persistente de bots -lo que podría causar daños por cientos de miles de millones de dólares-, y que la magnitud del daño siga aumentando a partir de ahí si la IA se vuelve más potente sin las medidas de seguridad necesarias», dijo Amodei.
La gravedad de las advertencias de Amodei llegaron incluso a generar un punto de coincidencia entre Elon Musk y Sam Altman, ambos fundadores de OpenAI pero actualmente envueltos en una fuerte pelea legal en la que Musk acusa a Altman de estafarlo y traicionar la idea original sin fines de lucro de la compañía creadora de ChatGPT.
En Naciones Unidas advirtieron que la inteligencia artificial podría volverse incontrolable y exigen la prohibición urgente de las armas autónomas.
«Dario tiene razón», dijo Musk. Por su parte, Altman sostuvo: «Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas».
En Naciones Unidas, en tanto, advirtieron que la inteligencia artificial podría volverse incontrolable y exigen la prohibición urgente de las armas autónomas, como se sospecha que se están testeando en la guerra de Ucrania.
«Podría convertirse en un riesgo existencial para la humanidad si no se toman medidas», dijo el responsable de derechos humanos de la ONU, Volker Türk, que planteó el escenario de que los sistemas de IA se vuelvan tan poderosos que sus propios desarrolladores no puedan controlarlos.
Altman junto a Trump en Casa Blanca.
Türk le reclamó «límites claros» a los países desarrolladores de IA y a las empresas a cargo de sus cadenas de suministro. «Necesitamos verificación independiente y una cooperación mucho más estrecha en materia de seguridad dentro del sector», dijo.
El mensaje de Türk apunta al corazón del problema: quienes están haciendo las alertas sobre el desmadre de la IA son las mismas compañías que las desarrollan, con todos los factores económicos, estratégicos y geopolíticos que juegan a la hora de medir la marcha futura de la IA, que llegan a plantear riesgos para la humanidad.
Al día siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que «los modelos actuales no pueden causar un riesgo significativo, pero que esto sí ocurrirá cuando la IA se mejore sola». La declaración de este sábado de su jefe, Dario Amodei, confirma sus temores. De hecho, Amodei anunció que Anthropic contratará paneles externos para que auditen y supervisen el desarrollo de sus nuevos modelos de IA.
Al día siguiente de renunciar a Anthropic, el investigador Jacob Coxon dijo que los modelos actuales no pueden causar un riesgo significativo, pero que eso sí ocurrirá cuando la IA se mejore sola y ese desarrollo podría llegar en apenas seis meses.
«Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años», agregó Coxon.
Esas declaraciones sacudieron el entramado político norteamericano y empiezan a generar en los republicanos proyectos regulatorios de la IA a los que le viene escapando Donald Trump.
Por caso, el senador republicano Ted Cruz definió como «aterradoras» las declaraciones de Coxon y adelantó que el Comité de Comercio del Senado se encamina a abordar en los próximos días la regulación de la IA.
El senador republicano Ted Cruz, antes de hablar en la Convención Republicana de Dallas.
«Necesitamos una regulación sustancialmente mayor en lo que respecta a la IA», dijo Cruz y detalló que, entre las medidas a analizar se incluyen los usos de la IA que generen amenazas biológicas y nucleares.
Pero el marco geopolítico aparece como un obstáculo para el desacelere. El propio Cruz dijo que las regulaciones no deben afectar a Estados Unidos en su «carrera de la IA contra China».
«Podríamos hacer que el gobierno interviniera y simplemente parara la industria de la IA en Estados Unidos, ¿y sabes qué pasaría? China alcanzaría en seis meses y avanzaría, y no tendríamos las herramientas para defendernos», dijo.
Vaca Muerta y la basura del fracking
PorLa TapaEn audiencia pública el día de ayer desde la Legislatura de Neuquén, se presentó el informe “La basura del fracking en Vaca Muerta” que evidencia la larga historia de contaminación e irregularidades cometidas por Comarsa, una de las plantas de tratamiento de residuos más importantes de la Argentina. La empresa COMARSA recurrió en ilegalidades tales…
Orazi participó del acto de entrega de diplomas del Instituto Crecer
El Intendente Marcelo Orazi participó el sábado del acto académico de entrega de diplomas a 147 alumnos que finalizaron sus estudios en distintas disciplinas en el Instituto Crecer. En la oportunidad estuvo acompañado por la Legisladora Marcela Ávila, el Secretario de Coordinación Ariel Oliveros y la Secretaria de Desarrollo Social Luisa Ibarra, entre otros funcionarios….
¿CÓMO ELEGIR EN ÉPOCA DE ELECCIONES CUANDO LA POLÍTICA HUELE MAL?
PorPablo NaniLa política es la ciencia que se ocupa de lo bueno y lo justo para todos Aristóteles En la época en que vivimos la visión del concepto griego de política se ha degradado, ahora, ¿porqué? Para situarnos en perspectiva, debemos advertir desde qué lugar uno habla cuando habla. Para ello, podremos acercarnos a la Hermenéutica,…
ETAPAS 2022: AL DEPORTISTA LO DESTACA LA GENTE
PREMIOS DIGITALES ETAPAS Segunda edición. Se viene la segunda edición del los PREMIOS DIGITALES ETAPAS organizados por #LaTapa, en los eTapas destacamos y valoramos a jóvenes deportistas reginenses por su compromiso, compañerismo, dedicación y proyección a través del voto digital en nuestra plataforma. Nos comunicamos con referentes, entrenadores y dirigentes locales para determinar quienes representan…
«CHACRA 51» FRACKING EN ALTO VALLE
PorLa TapaMaristella Svampa es socióloga, investigadora del CONICET y escritora. Nacida en el Alto Valle de Río Negro, en la ciudad de Allen. Desde hace muchos años trabaja en cuestiones ligadas a movimientos sociales y problemáticas socio ambientales, no solo acá en Argentina, sino también en perspectivas comparativas con otros países de América Latina. Visitó la…

