En la industria tecnológica actual, ha surgido un patrón recurrente: grandes empresas de Inteligencia Artificial (IA) presentan sus nuevos modelos como herramientas tan poderosas que resultan «aterradoras». Recientemente, la compañía Anthropic generó controversia al afirmar que su modelo Claude Mythos posee capacidades de ciberseguridad que superan a los expertos humanos, sugiriendo que su liberación podría alterar el orden mundial. Esta tendencia de las empresas a anunciar sobre los peligros existenciales de sus propios productos plantea interrogantes sobre las verdaderas intenciones detrás de este discurso de alarma.
Expertos en ética y analistas sugieren que esta «estrategia del miedo» cumple funciones específicas para las corporaciones. Al elevar la tecnología a un estatus casi sobrenatural, se desvía la atención de problemas tangibles y actuales, como el impacto ambiental de los centros de datos, la explotación laboral o la proliferación de deepfakes. Además, esta narrativa posiciona a las propias empresas como las únicas entidades capaces de gestionar un riesgo de tal magnitud, sugiriendo que la regulación externa podría ser insuficiente o incluso contraproducente.
Críticas a la veracidad técnica y los incentivos corporativos
A pesar de las advertencias sobre el «riesgo de extinción», la comunidad científica cuestiona la falta de datos empíricos que respalden tales niveles de peligrosidad. En el caso de Mythos, especialistas en auditoría de seguridad señalan la ausencia de métricas estándar, como la tasa de falsos positivos, esenciales para validar la utilidad de cualquier herramienta de ciberseguridad. La falta de comparativas con tecnologías existentes alimenta la teoría de que estas declaraciones podrían ser exageraciones diseñadas para inflar el valor de las acciones o justificar retrasos operativos por falta de capacidad de cómputo.
El comportamiento de los líderes del sector también muestra contradicciones entre sus advertencias públicas y sus acciones empresariales. Mientras firman peticiones para pausar el desarrollo de la IA avanzada por seguridad, continúan compitiendo por el dominio del mercado. Algunos puntos clave sobre esta dinámica incluyen:
Cambio de políticas internas: Organizaciones que nacieron sin fines de lucro o con estrictas «líneas rojas» de seguridad han modificado sus estructuras para buscar beneficios económicos y alianzas militares.
Monopolio de la protección: La retórica del miedo fomenta la idea de que la sociedad debe confiar exclusivamente en los laboratorios de IA para prevenir desastres, limitando el papel de la gobernanza democrática.
Desplazamiento de riesgos reales: El enfoque en un futuro apocalíptico minimiza los problemas presentes como el deterioro cognitivo vinculado al uso de estas herramientas o el aumento de emisiones de gases de efecto invernadero.
Análisispolítico
La dualidad entre la utopía y el colapso civilizatorio.
La narrativa de las grandes tecnológicas suele presentar a la IA como una moneda de dos caras: por un lado, el demonio que destruye la humanidad; por otro, los mesías que resolverá el cambio climático y descubrirá nuevas fronteras de la física. Esta escala «mítica» de la conversación busca, según expertos en ética de datos, hacer que herramientas legales y regulatorias parezcan insignificantes frente a una fuerza supuestamente ingobernable.
Históricamente, Silicon Valley ha impulsado promesas similares con tecnologías como el Metaverso, las criptomonedas o las redes sociales, presentándolas como hitos que cambiarían la estructura misma de la sociedad. Al tratar a los chatbots y modelos de lenguaje como fuerzas que escapan al control humano, se corre el riesgo de renunciar a la supervisión necesaria para mitigar los daños que la tecnología ya está causando en el presente, bajo la promesa de una salvación futura o el miedo a un final inevitable.
CDN
