En resumen: Más de 150 matemáticos y científicos firmaron un manifiesto en 2024 alertando de que empresas como OpenAI exageran sistemáticamente las capacidades de la inteligencia artificial para captar inversión y frenar la regulación. Los gobiernos de la UE, EE.UU. y Reino Unido han preferido consultar a la industria antes que a académicos independientes, y eso tiene consecuencias directas para cualquier persona que use servicios digitales, solicite un crédito o busque trabajo.
Un manifiesto firmado por 150 matemáticos y científicos advierte que las promesas de la IA están infladas. Los gobiernos los ignoran. Te explicamos qué dicen y por qué importa.
¿Qué es el manifiesto de matemáticos contra la inteligencia artificial?
El manifiesto contra el marketing de la IA es un documento firmado por más de 150 académicos, matemáticos y científicos que acusa a la industria tecnológica de inflar deliberadamente las capacidades de sus sistemas. No es una carta de alarmistas ni de luditas: entre los firmantes hay investigadores con décadas de trayectoria en el campo de la computación y las matemáticas aplicadas.
El documento plantea una distinción que la industria prefiere difuminar: los modelos actuales de IA, incluidos los grandes modelos de lenguaje como los de OpenAI, son sistemas estadísticos de predicción de texto. No razonan, no comprenden, no tienen objetivos propios. Son herramientas potentes, pero con limitaciones estructurales que el marketing de Silicon Valley tiende a enterrar bajo capas de promesas.
Los firmantes piden, concretamente, que los gobiernos consulten a científicos independientes antes de legislar. No como sustituto de la industria, sino como contrapeso real frente a un lobbying que hoy domina la conversación política sobre IA.
¿Por qué está sonando ahora?
La brecha entre lo que la ciencia dice y lo que los gobiernos escuchan se ha vuelto imposible de ignorar en 2024, justo cuando el AI Act de la Unión Europea ha entrado en vigor y EE.UU. negocia su propio marco regulatorio. Las decisiones se toman ahora. Y los que tienen silla en la mesa no son precisamente los que firman manifiestos académicos.
Según datos de Corporate Europe Observatory, más del 70% de los grupos de expertos en IA de la Comisión Europea tienen representación mayoritaria de la industria privada. Ese dato solo ya explica por qué el manifiesto existe y por qué no está en portada de todos los diarios.
Figuras como Yoshua Bengio, uno de los pioneros del aprendizaje profundo y Premio Turing, han apoyado públicamente posiciones críticas hacia el ritmo y la dirección del desarrollo actual. Geoffrey Hinton, considerado el «padrino de la IA», dejó Google en 2023 precisamente para poder hablar con más libertad sobre los riesgos del sector. Cuando los propios fundadores del campo piden parar y reflexionar, algo está pasando.
¿Por qué debería importarte?
Las leyes que se aprueben en los próximos meses van a determinar qué datos tuyos puede usar una empresa, qué decisiones automatizadas te afectan y quién responde cuando algo falla. Esto no es abstracto: hablamos de algoritmos que ya deciden si te dan un crédito, si pasas una criba de empleo o qué tratamiento médico te recomienda un sistema de salud.
Una regulación escrita a medida de la industria protege menos al ciudadano. Y una regulación que parte de premisas falsas —como que la AGI, la inteligencia artificial general, es inminente— puede acabar creando marcos de urgencia que benefician a quienes más invierten en ese relato.
El problema no es la tecnología en sí. El problema es quién define las reglas del juego y con qué información lo hace.
Lo que necesitas saber: industria vs. expertos independientes
La distancia entre el discurso de las empresas tecnológicas y el de los científicos independientes nunca ha sido tan grande como ahora. Estos son los puntos clave del debate:
- Lo que dice la industria: La inteligencia artificial general (AGI) está a la vuelta de la esquina. Eso justifica urgencia regulatoria —a su medida— y enormes inversiones. OpenAI ha hablado abiertamente de alcanzar la AGI como objetivo fundacional.
- Lo que dicen los firmantes del manifiesto: Los modelos actuales son sistemas estadísticos sin comprensión real del mundo. Sus errores no son bugs corregibles; son consecuencias de su arquitectura. Presentarlos como proto-AGI es, según el manifiesto, una distorsión interesada.
- El lobbying tiene números: Según datos recogidos por Corporate Europe Observatory, la representación corporativa domina los grupos consultivos de la Comisión Europea en materia de IA. Los académicos independientes son minoría estructural en esas mesas.
- El AI Act como caso de estudio: El AI Act de la UE, primer gran marco regulatorio del mundo en IA, fue negociado con una participación masiva de la industria privada en las consultas previas. Los críticos argumentan que eso se nota en el texto final.
- Bengio y Hinton no son radicales: Son los investigadores que construyeron las bases técnicas sobre las que opera toda la IA moderna. Que pidan más cautela no es ideología; es criterio técnico.
- El ciudadano no tiene representante en esta negociación: Mientras la industria tiene equipos de lobbying y los académicos tienen cartas abiertas, el usuario final —tú— no tiene silla formal en ninguna de estas mesas.
La postura de Trendeo es clara: no se trata de ser anti-tecnología. La IA tiene aplicaciones reales y valiosas. Pero una conversación pública dominada por el marketing de quienes tienen más que ganar produce regulación peor. Escuchar a los matemáticos no es el único paso necesario, pero sería un comienzo honesto.
Preguntas frecuentes sobre el manifiesto de matemáticos contra la inteligencia artificial
¿Qué dice el manifiesto de los matemáticos contra la IA?
El manifiesto firmado por más de 150 académicos afirma que empresas como OpenAI inflan deliberadamente las capacidades de sus sistemas para atraer inversión y frenar la regulación. Pide que los gobiernos consulten a científicos independientes antes de legislar, como contrapeso real al lobbying corporativo.
¿Por qué los gobiernos ignoran a los expertos independientes en inteligencia artificial?
Porque las grandes empresas tecnológicas invierten decenas de millones en lobbying y dominan los grupos de consulta oficiales. Según Corporate Europe Observatory, más del 70% de los grupos de expertos en IA de la Comisión Europea tienen representación mayoritaria de la industria privada, lo que deja a los académicos independientes en minoría estructural.
¿Qué diferencia hay entre lo que promete la industria y lo que dicen los matemáticos?
La industria presenta la inteligencia artificial general (AGI) como inminente para justificar urgencia regulatoria a su medida. Los firmantes del manifiesto sostienen que los modelos actuales son sistemas estadísticos sin comprensión real, con limitaciones estructurales que el marketing oculta sistemáticamente. Investigadores como Yoshua Bengio y Geoffrey Hinton comparten esta visión crítica.
¿Cómo me afecta que los gobiernos no escuchen a los expertos en IA?
Las leyes aprobadas ahora determinan qué datos tuyos puede usar una empresa, qué decisiones automatizadas te afectan —créditos, empleo, sanidad— y quién responde cuando algo falla. Una regulación construida sobre premisas infladas por la industria, como el marco del AI Act de la Unión Europea, protege menos al ciudadano y más a quienes invirtieron en moldearla.
