Ginebra. – Un exinvestigador de Anthropic, Jacob Coxon, lanzó una advertencia contundente tras su renuncia: si no se frena el ritmo actual de desarrollo de la inteligencia artificial, existe una alta probabilidad de que la humanidad muera en un futuro inmediato. Sus declaraciones a la BBC se producen en un contexto de creciente preocupación por la seguridad de esta tecnología, que ha llevado a líderes del sector a pedir una pausa regulatoria.

«Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato», afirmó Coxon, quien trabajó en OpenAI antes de unirse a Anthropic. Su publicación sobre los peligros de la IA se volvió viral tras su salida de la compañía.

El director de Anthropic, Dario Amodei, publicó un artículo el sábado en el que calificó de «graves» los riesgos asociados a la IA y pidió tiempo para que empresas y gobiernos los aborden. Sam Altman, de OpenAI, y Elon Musk, de xAI, expresaron su acuerdo con la propuesta de Amodei de ralentizar el ritmo y establecer regulaciones en todo el sector.

Coxon acogió con satisfacción la propuesta, pero advirtió que sería necesario coordinarla con China para evitar «una carrera a escala internacional». En sus declaraciones a la BBC, describió el sentir de sus colegas: «Las personas que trabajan en estas empresas hablan muy en serio cuando piden regulación, ya que se sienten atrapadas en una carrera. Y temen las consecuencias de esa misma carrera».

El exinvestigador detalló que el personal de las empresas de IA estaba «planificando qué hacer con sus vidas y reflexionando sobre el impacto de su trabajo», mientras que algunos «consideraban comprar terrenos en algún lugar debido al miedo que les provoca la inestabilidad derivada del rápido avance de la IA». Según Coxon, «todos tienen esto presente a diario mientras trabajan en la tecnología».

No obstante, Coxon también mostró cierto optimismo: los investigadores «realmente quieren ver el lado positivo», como la posibilidad de «curar enfermedades y mejorar la vida de todos». Sin embargo, la preocupación se extiende. Evan Hubinger, científico de Anthropic, afirmó: «Realmente creemos con total sinceridad que la IA podría acabar con todos los seres humanos. Personalmente, creo que existe una probabilidad superior al 10 por ciento de que esto ocurra en la próxima década».

Geoffrey Hinton, premio Nobel y conocido como el «padrino de la IA», declaró el viernes a la BBC que esa probabilidad del 10 por ciento «no era descabellada». Marc Warner, director ejecutivo de Faculty, señaló que es «extremadamente difícil asignar una probabilidad» a la extinción humana por IA, pero añadió: «No obstante, es importante reconocer que estas personas son muy sinceras en lo que dicen».

Sin embargo, no todos comparten estas visiones. Clement Delangue, director ejecutivo de Hugging Face, ironizó en redes sociales: «Lo siento, pero preguntar a Jacob [Coxon] sobre el riesgo de extinción por la IA es como preguntar al técnico del aire acondicionado sobre el cambio climático. No digo que el tema carezca de interés o sea erróneo en sí mismo, pero mantengamos las cosas en perspectiva». George Arison, de Grindr, sugirió que estas declaraciones buscan captar inversores.

En este escenario, Sam Altman anunció el viernes que OpenAI no seguirá el camino de la OPI este año, citando preocupaciones sobre la seguridad de la IA. La valoración más reciente de OpenAI alcanzó los 852 mil millones de dólares, mientras se informa que Anthropic se prepara para una oferta pública inicial récord.

Desde la ONU, el alto comisionado Volker Türk advirtió este lunes que todos los derechos humanos «están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad». Türk señaló que la IA agéntica está mostrando fallos que «podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas». Además, afirmó que «poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros».

Türk aseguró que la IA «ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva». Ante ello, instó a Estados y empresas a movilizarse con urgencia: «Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico».