Algunos de los líderes tecnológicos más poderosos del mundo han dejado de lado sus rivalidades internas. En una carta abierta conjunta, instan a los representantes electos estadounidenses a aprobar una nueva legislación que dificulte el uso de la inteligencia artificial en el desarrollo de armas biológicas, y que potencialmente podría prevenir una pandemia global, según la carta citada por The Verge.

Los directores ejecutivos acuden unidos al Congreso

Entre los firmantes se encuentran Dario Amodei de Anthropic, Sam Altman de OpenAI y Mustafa Suleyman de Microsoft. No es habitual que estas tres empresas actúen como una sola voz; la competencia entre ellas es intensa en casi todos los demás frentes.

La carta aborda lo que los remitentes describen como una brecha aguda en la bioseguridad. El argumento es que la normativa actual no está diseñada para una situación en la que los modelos de lenguaje avanzados pueden reducir el umbral para quienes son capaces de adquirir conocimientos sobre patógenos peligrosos.

Rivales en todo lo demás, pero de acuerdo en una cosa: la IA no puede convertirse en una herramienta para la muerte masiva.
Gigantes de la IA piden al Congreso detener la amenaza de las armas biológicas - Bilde 1

Lo que la carta realmente exige

Los detalles concretos de las propuestas no se han hecho públicos en su totalidad, pero según The Verge, se trata de imponer mecanismos de detección obligatorios a las empresas de IA y otras medidas para evitar que los modelos proporcionen información que pueda contribuir directamente al diseño o la producción de agentes de guerra biológica.

El trasfondo es que los grandes modelos de lenguaje, como los que desarrollan las tres empresas, en teoría pueden utilizarse para acelerar la investigación, incluida la investigación con potencial dañino. El problema es que las capacidades se desarrollan tan rápidamente que los usos peligrosos a menudo se descubren después de que el modelo ya está en uso, según expertos citados en análisis de la industria.

Los expertos no están de acuerdo con la solución

Aunque la carta ha recibido una amplia atención, está lejos de haber consenso sobre si la regulación de la IA es la medida correcta. David Baker, director del Instituto de Diseño de Proteínas de la Universidad de Washington, cree que la regulación debería dirigirse principalmente a las barreras físicas —laboratorios, equipos y tecnología de síntesis de ADN— en lugar de a las herramientas de IA en sí mismas. Baker es citado en análisis de la industria y subraya que la síntesis de ADN, utilizada en el desarrollo de vacunas, también puede suministrar componentes para patógenos peligrosos.

Otra objeción se refiere a la dinámica del mercado: regulaciones más estrictas pueden afectar desproporcionadamente a las empresas emergentes, mientras que los grandes actores con recursos para el trabajo de cumplimiento fortalecen su posición. Los críticos señalan que esto, paradójicamente, podría dar una ventaja competitiva a las mismas empresas que firman la carta.

La regulación podría terminar protegiendo a los grandes y asfixiando a los pequeños, una paradoja que nadie en la carta aborda abiertamente.

¿Motivación estratégica o responsabilidad genuina?

Algunos observadores interpretan el compromiso de la industria con las cuestiones de bioseguridad como parcialmente estratégico. La idea es que al presionar por un cribado obligatorio, la responsabilidad se distribuye a un sistema más amplio, reduciendo así el riesgo de que toda la industria sea considerada colectivamente responsable si la IA alguna vez se vinculase a un incidente biológico.

Cabe señalar que esta es una interpretación de los críticos, no un hecho documentado. Los propios firmantes no han comentado públicamente tales acusaciones.

Un factor de complicación adicional es que las regulaciones de control de exportaciones de EE. UU., según análisis de la industria, pueden de hecho obstaculizar el desarrollo efectivo de la bioseguridad: muchos de los principales expertos en bioseguridad del mundo son ciudadanos extranjeros de países como Canadá, el Reino Unido y los países de la UE, y los procesos de licencia para involucrarlos en dichas pruebas pueden ser tediosos.

¿Qué sigue?

La pelota está ahora en el tejado del Congreso. Si los legisladores actuarán, y en qué forma, queda por ver. Históricamente, la regulación tecnológica en EE. UU. se ha movido lentamente, pero el argumento de la bioseguridad tiene una capacidad única para reunir apoyo político de todos los partidos. Que algunos de los nombres más poderosos de la industria de la IA hablen ahora con una sola voz puede dar peso a la iniciativa, o puede encontrar escepticismo por parte de políticos que cuestionan los verdaderos motivos de la industria.