¿Podría la IA aniquilar el mundo? ¿Cual es el plan de los tecno-oligarcas?
Adam Sharp, experto estadounidense en IA (Daily Reckoning)
¿Está la IA destinada a aniquilar a la humanidad? Esta es la pregunta ( fabricada ) de la semana.
La polémica estalló después de que un investigador de la destacada empresa de inteligencia artificial Anthropic dimitiera, afirmando que las grandes compañías están «jugando con nuestras vidas».
Esta fue la publicación en X (Twitter) que desencadenó todo:
La publicación se viralizó rápidamente, generando 157 millones de visualizaciones, 756.000 me gusta y 155.000 retuits. Es uno de los tuits más populares del año.
Al principio, supuse que era algo natural y espontáneo. Bien por Jacob por defender sus convicciones.
Pero los golpes no pararon de llegar.
A continuación, el jefe de alineación de Anthropic volvió a publicar el mensaje de Jacob y añadió una estimación escandalosa del riesgo.
“Realmente creemos que la IA podría acabar con todos los humanos. Personalmente, creo que hay más de un 10% de probabilidades de que eso ocurra en la próxima década”.
¡¿Qué?! Parece estar muy entusiasmado. Y eso que lo dice el actual jefe de alineación de Anthropic.
Así luce una sofisticada campaña de relaciones públicas. El objetivo: aterrorizar al público y lograr la aprobación de una regulación favorable. Analicemos las pruebas.
Anexos A, B y C
Anthropic también publicó un informe de 154 páginas sobre todos los actores malintencionados que intentan utilizar sus sistemas para el mal.
Según la empresa, unos delincuentes intentaron utilizar el modelo de IA Claude de Anthropic para:
- Los hutíes de Yemen intentaron construir misiles hipersónicos.
- China lo utilizó para rastrear a los uigures musulmanes.
- Rusia hackeó objetivos ucranianos
- Alguien intentó modificar genéticamente virus.
Anthropic afirma que “interrumpieron todas las operaciones mencionadas en el informe”. La palabra “interrumpieron” resulta curiosa. No dijeron “ frustraron ” ni “detuvieron ”. Dijeron “interrumpieron”. Guardemos esto para futuras referencias.
La empresa da a entender que el mundo sigue girando únicamente gracias a sus sólidas medidas de seguridad.
Esto es algo que notarás en estas grandes empresas de IA. Solo su empresa es digna de confianza para la superinteligencia. Los demás buscan destruir el mundo con sus prácticas irresponsables. Ese es el mensaje que transmiten prácticamente todas las grandes compañías.
Y ENTONCES tuvimos otro gran golpe. Reuters ayer:
OpenAI impulsa normas nacionales obligatorias de seguridad para la IA.
«La perspectiva de un desarrollo de la IA acelerado por la IA exige más que compromisos voluntarios. Estados Unidos necesita una regulación nacional obligatoria y basada en capacidades que pueda evolucionar a medida que lo hace la tecnología», dijo Chris Lehane, director de Asuntos Globales de OpenAI, en una publicación de blog.
…OpenAI insta al Congreso a adoptar requisitos nacionales de seguridad de la IA basados en capacidades, que incluyan estándares de prueba, evaluaciones independientes, protecciones de ciberseguridad y normas de notificación de incidentes para los sistemas de IA más avanzados.
Ahora todo empieza a encajar. Algunos probablemente estén pensando: ¡Vaya, eso parece responsable! ¿Quién podría oponerse a las leyes de seguridad de sentido común?
Ahí radica el problema. No serán normas de sentido común. Estarán diseñadas para aplastar a los competidores más pequeños como si fueran insectos, y para prohibir los modelos de código abierto (que cuestan mucho menos). Y probablemente también eliminarán la privacidad en línea.
Una FDA para la IA
La mayoría de los defensores de la regulación de la IA abogan por la creación de una especie de «FDA para la IA».
El gobierno realizaría pruebas para garantizar la seguridad de los nuevos modelos. Las empresas tendrían que pagar enormes costos regulatorios para someter sus modelos a pruebas y monitorear a los usuarios. Muchas empresas emergentes más pequeñas no podrán afrontar esos gastos.
A menos que lo impidamos, estas leyes otorgarán un oligopolio a los grandes actores existentes, principalmente OpenAI, Anthropic y Google.
Las empresas tabacaleras emplearon esta estrategia en la década de 2000. Philip Morris apoyó la regulación de la industria por parte de la FDA, porque les otorgaba una gran ventaja.
Hoy en día, todos los nuevos productos de tabaco deben pasar por la FDA. Por lo tanto, los nuevos competidores son escasos.
Excelentes noticias para las empresas líderes. Esta es una de las razones por las que poseo acciones de Altria (MO) , la división estadounidense de Philip Morris. La compañía genera muchísimo dinero y reparte enormes dividendos. La competencia está limitada por ley.
Pero si esto ocurre en el ámbito de la IA, será extremadamente perjudicial para el país. La innovación se estancará y, a la larga, los competidores extranjeros con sistemas más favorables a la competencia se impondrán.
Para que quede claro…
Es posible que en algún momento sea necesaria alguna regulación en torno a la IA. Pero no debemos permitir que los líderes de esta industria dicten las reglas. Existen innumerables ejemplos que demuestran por qué esta es una pésima idea.
Retirarán la escalera tras de sí y crearán un entorno cómodo con poca competencia. Imprimirán dinero y ejercerán una influencia sin precedentes sobre la población e incluso sobre el gobierno.
Cualquier regulación sobre IA debe permitir que las startups compitan con las grandes empresas. Debe permitir el uso de modelos de código abierto, para que las pequeñas empresas no se vean obligadas a pagar enormes sumas de dinero a un oligopolio.
Eso es lo que yo preferiría. Pero puede que no lo consigamos. El enfoque de la FDA parece probable. Menos competencia e innovación, precios más altos e influencias perniciosas.
¿Qué más nos depara el futuro? Probablemente un sistema de identificación digital. Esto representa la eliminación de la privacidad en línea que mencioné anteriormente.
Para usar un modelo de IA sofisticado, necesitarás una identificación digital oficial. Esta estará vinculada a tu identidad real, lo que reducirá el riesgo de abuso. Eventualmente, para acceder a internet, tendrás que autenticarte con tus datos biométricos (escaneo del iris, huella dactilar, etc.). En mi opinión, esto es inevitable. Sucederá poco después del primer ciberataque masivo impulsado por IA.
Sí, OpenAI y Anthropic planean salir a bolsa próximamente. Así que el momento elegido para toda esta campaña no es casualidad.
La IA de código abierto está ofreciendo una competencia real a las grandes empresas, y estas quieren eliminar ese riesgo. ¿Lo lograrán? No lo sé. Pero nuestro sistema político es extremadamente vulnerable a este tipo de operaciones. Y con tanto dinero en circulación, todo estará engrasado.
Observatorio de la crisis
