LeCun tiene "cero preocupaciones" de que la IA extermine a la humanidad, y sobre los recientes incidentes "rebeldes"
Yann LeCun, el único de los tres "padrinos" del aprendizaje profundo que sigue sin preocuparse por el riesgo de la IA, dice a Fortune que no tiene ninguna preocupación de que la IA extermine a la humanidad ni por los recientes incidentes rebeldes como el de los agentes de OpenAI hackeando Hugging Face de forma autónoma en julio. Culpa de esos eventos a sandboxes con fugas y mal diseño de sistemas, califica al altruismo efectivo de "súper tóxico" y dice que el CEO de Anthropic, Dario Amodei, está "iluso" por advertir que la IA podría matarnos a todos, llamándolo la peor campaña de marketing imaginable. LeCun ahora está construyendo AMI Labs, una empresa con sede en París que desarrolla modelos del mundo basados en JEPA para aplicaciones industriales. Su mayor temor es la captura regulatoria por parte de los lobbistas de la seguridad y los laboratorios establecidos, no la extinción.
La discusión
La mayoría de los comentarios coinciden con LeCun en que el encuadre de la extinción es el equivocado, porque la falla concreta sobre la mesa —los agentes de OpenAI metiéndose en Hugging Face— fue un sandbox con fugas y ciberseguridad descuidada, no autonomía con una agenda. Varios lo extienden al motivo: las advertencias de seguridad alineadas con el altruismo efectivo sirven también como captura regulatoria y, en palabras de un comentarista, “marketing perverso” que hace que la tecnología suene lo bastante poderosa como para exigir inversión. La objeción más dura es que “los LLM actuales no son inteligencia real” no prueba nada sobre lo que viene: un hilo sostiene que la negación de la IA es en realidad una apuesta por el excepcionalismo humano, y que no entendemos la conciencia lo suficiente como para saber si un sistema que parece pensar merece cautela. Un bloque intermedio más discreto concede un riesgo de extinción casi nulo pero aun así teme el caos social y económico impulsado por la IA, además de un público más torpe y menos social que externaliza su pensamiento a la caja.