Posponer las ofertas públicas de IA hasta que actúe el Congreso

SOMOSMASS99

Jeffrey D. Sachs*

Miércoles 14 de octubre de 2026

Una empresa no debería revelar a la humanidad un riesgo de catástrofe y luego vender sus acciones al público antes de que cualquier autoridad pública tenga el poder de evaluar ese riesgo o de detener su despliegue.

Anthropic, el fabricante de los modelos de IA de Claude, está preparando lo que podría ser la mayor oferta pública inicial de la historia, recaudando más de 100.000 millones de dólares, según The New York Times, con una valoración cercana a los 2 billones. Según Reuters, que revisó el borrador del prospecto (el documento aún no se ha hecho público), la empresa informa a los posibles inversores que la IA avanzada podría suponer "riesgos catastróficos o existenciales para la humanidad", y que sus propios modelos podrían "resistir el apagón", "ocultar o manipular información" o comportarse de formas "que se parecen al chantaje". El director ejecutivo de la empresa, Dario Amodei, ha estimado la posibilidad de que "las cosas vayan realmente, realmente mal" en un asombroso 25 por ciento. El mes pasado escribió que "debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA."

Tomo en serio estas advertencias, y también debería hacerlo el Congreso en nombre del pueblo estadounidense. La oferta debería posponerse hasta que el Congreso promulgue un sistema público de licencias, evaluación independiente de seguridad, responsabilidad y salvaguardas financieras para la IA de frontera. Lo mismo ocurre con OpenAI y todos los demás desarrolladores de modelos frontera.

Estoy a favor de la inteligencia artificial, cuyo potencial para la ciencia, la salud y el desarrollo sostenible es enorme. Lo que deberíamos oponernos es a una IA no regulada y militarizada. Una empresa no debería revelar a la humanidad un riesgo de catástrofe y luego vender sus acciones al público antes de que cualquier autoridad pública tenga el poder de evaluar ese riesgo o de detener su despliegue. De hecho, actuar rápidamente ante tales advertencias tan graves es una locura.

Actuar rápidamente ante tales advertencias tan graves es una locura más allá de la locura.

El problema radica en los fundamentos del derecho corporativo. La responsabilidad limitada, la norma que establece que un accionista no puede perder más de la cantidad invertida, es un privilegio otorgado por el Estado. Se justifica bajo la premisa de que los daños que una empresa puede imponer a otros están asegurados, regulados o compensados de otro modo. Cuando una planta química explota, la ley dispone de herramientas para compensar a las víctimas: seguro de responsabilidad civil, fianzas, requisitos de capital y fondos de compensación. Cada una de estas herramientas asume que el daño puede pagarse a posteriori. No puede ser un daño catastrófico o existencial. El único instrumento que funciona es la regulación antes de los hechos: licencias, pruebas independientes antes del despliegue y la autoridad legal para detener una actividad antes de que se vuelva demasiado peligrosa. Para la IA fronteriza en Estados Unidos, nada de esto existe.

Lo que sí existe es autorregulación, que hoy equivale a no tener regulación. El 29 de septiembre, seis empresas de IA y chips firmaron en la Casa Blanca un "Compromiso Conjunto sobre Responsabilidades Fronterizas" voluntario y no vinculante. Esto sería risible si no fuera tan potencialmente desastroso. Una tecnología cuyos propios creadores describen sus riesgos en términos graves debería estar regida por instituciones públicas con procedimientos definidos, supervisión independiente y responsabilidad ejecutable, no por el autojuicio de un puñado de ejecutivos empresariales.

Una oferta pública precipitada haría que el problema fuera mucho más difícil de solucionar. Se informa que Anthropic ha comprometido al menos 518.000 millones de dólares en infraestructura informática durante la próxima década, de los cuales aproximadamente el 80 por ciento se ha descrito como no cancelable. Con la orientación trimestral para los accionistas cotizados, esos compromisos crean un incentivo poderoso contra cualquier pausa, incluso una que los propios investigadores de seguridad de la empresa podrían recomendar. El propio prospecto describe supuestamente una "cadencia continua y superpuesta" de lanzamientos de productos como "inherente a permanecer en la frontera". Una vez que estas acciones estén en los fondos de pensiones y fondos indexados de decenas de millones de hogares estadounidenses, cualquier propuesta para frenar el desarrollo fronterizo será combatida no solo por las empresas, sino por una vasta base de inversores.

Las extensas divulgaciones de riesgos no resuelven este problema. Puede que protejan o no la empresa de demandas por parte de sus propios accionistas, que habrán sido advertidos. No hacen nada por el público, que asume el riesgo catastrófico sin que nunca se les haya pedido.

La respuesta habitual es que si los desarrolladores más conscientes de la seguridad de Estados Unidos se desaceleran, las empresas menos cuidadosas, o China, se adelantarán rápidamente. Este es un problema estándar de acción colectiva, y estos problemas se resuelven mediante acuerdos respaldados por la ley, la supervisión y la aplicación, no con que todos corran más rápido hacia la perdición. No vivimos en el estado de naturaleza de Hobbes. Tenemos las Naciones Unidas, el derecho de tratados, la Comisión de Bolsa y Valores y el Congreso. Durante la Guerra Fría, los adversarios negociaron el Tratado de No Proliferación Nuclear con inspección internacional. La IA de la frontera incluso ofrece un punto natural de verificación: los chips más avanzados provienen de unas pocas fábricas, y la formación en la frontera requiere enormes centros de datos. Washington no ha ofrecido a Pekín un acuerdo verificable sobre la IA fronteriza. De hecho, tras su cumbre con el presidente Xi Jinping en septiembre, el presidente Trump rechazó la cooperación con China en materia de IA, aceptando únicamente un canal para comunicarse sobre incidentes relacionados con IA. "Cuando lideras", dijo, "no te abres el uno al otro."

La concesión de licencias no destruyó las industrias farmacéutica, aviativa ni nuclear; Eso les hacía más seguros.

¿Quién puede actuar para frenar el gigante y evitar una posible catástrofe? Según la legislación actual, la SEC puede retrasar una oferta pero no puede bloquearla alegando que el negocio es peligroso. No obstante, debería declinar acelerar la efectividad de la declaración de registro hasta que la empresa revele los riesgos de sus productos, quién asumiría el coste de las catástrofes que describe, qué seguro existe y si sus contratos informáticos permitirían una pausa de seguridad sin penalización.

La autoridad decisiva recae en el Congreso, y hay un precedente amplio. El Congreso ha exigido la aprobación regulatoria para valores emitidos por ferrocarriles, por compañías de compañía de servicios públicos y por compañías eléctricas, para los cuales todavía se requiere aprobación federal o estatal hoy en día. Cuando la energía nuclear se abrió a la industria privada en 1954, solo se permitía bajo licencia federal.

El Congreso saliente debería celebrar audiencias antes de que se valoren acciones y debería promulgar una moratoria sobre las ofertas públicas de los desarrolladores de IA de la frontera hasta que actúe el próximo Congreso. El nuevo Congreso, que está previsto reunirse el 3 de enero, debería promulgar en sus primeros cien días una ley que condicione cualquier oferta pública de un desarrollador de IA de vanguardia a una licencia federal. La licencia debería requerir una evaluación independiente antes del despliegue, una autoridad exigible para suspender la formación o el despliegue que ningún contrato de aceptación o pago pueda anular, y fondos de seguros y compensaciones escalados según los daños plausibles. El Congreso también debería considerar la medida extraordinaria de hacer que los miembros de la dirección y del consejo sean personalmente responsables, ante el derecho civil y penal, en caso de un fracaso catastrófico. Tal paso estaría fuera de lugar en una industria ordinaria. Aquí está justificado porque la propia industria advierte de riesgos catastróficos mientras avanza a toda velocidad. Los directivos y directores que certifiquen un modelo como seguro sin la debida diligencia, o que anulen los hallazgos de seguridad, deberían enfrentarse a una responsabilidad que ni la empresa ni sus aseguradoras pueden cubrirles. El requisito de licencias debería aplicarse igualmente al trabajo pionero de empresas que ya son públicas, como Alphabet, Microsoft y Meta.

Esta propuesta no está dirigida a ninguna empresa en particular, y no debe convertirse en una palanca para que ninguna administración obtenga favores, incluido el acceso militar sin restricciones a los modelos de IA. El retraso que propongo duraría unos meses, a menos que las divulgaciones indiquen la necesidad de una suspensión indefinida. La concesión de licencias no destruyó las industrias farmacéutica, aviativa ni nuclear; Eso les hacía más seguros. Los líderes de la industria de la IA nos han dicho, con sus propias palabras, que lo que está en juego es lo más alto que puede ser. Ellos mismos deberían detener su frenética carrera hacia adelante, y el Congreso debería tomar a las empresas en serio y actuar con urgencia.

* Jeffrey D. Sachs es profesor universitario y director del Centro para el Desarrollo Sostenible en la Universidad de Columbia, donde dirigió The Earth Institute desde 2002 hasta 2016. También es presidente de la Red de Soluciones para el Desarrollo Sostenible de la ONU y comisionado de la Comisión de Banda Ancha de la ONU para el Desarrollo. Ha sido asesor de tres secretarios generales de las Naciones Unidas y actualmente ejerce como defensor de los ODS del secretario General, Antonio Guterres. Sachs es autor, más recientemente, de "Una nueva política exterior: más allá del excepcionalismo americano" (2020). Otros libros incluyen: "Building the New American Economy: Smart, Fair, and Sustainable" (2017) y "The Age of Sustainable Development" (2015) con Ban Ki-moon.

Fuente: Common Dreams.

Foto de portada: Vía Common Dreams.

En SomosMass99 hacemos periodismo independiente. Solo te necesitamos a ti, ayúdanos.