LeCun vs obscurantisme IA: per què l'open source és l'única defensa
Hi ha una escena que es repeteix. Una empresa llança un model d'IA, el declara "massa perillós" per fer-lo públic i després cobra per accedir-hi. El guió no ha canviat des de 2019. Yann LeCun —vicepresident i chief AI scientist de Meta, un dels tres pares del deep learning modern— porta anys dient que aquest guió és propaganda, no ciència.
La seva última sortida pública, en el col·loqui amb Steven Levy a VivaTech, va ser directa: «Si bloqueges una eina pensant que és molt perillosa, estàs en l'obscurantisme medieval».
No és una frase per a LinkedIn. És una declaració de principis sobre qui ha de controlar la IA i, per extensió, qui ha de controlar el coneixement del proper segle.
La narrativa de la por com a estratègia comercial
El detonant recent és Claude Mythos, model d'Anthropic presentat l'abril com "el millor mai creat" i restringit a un cercle tancat. L'empresa va al·legar riscos de seguretat. El govern dels Estats Units va afegir restriccions d'accés per nacionalitat. El missatge: aquesta IA és tan potent que només uns pocs poden tocar-la.
LeCun ho resumeix sense adornaments: «Anthropic i uns pocs més són un lobby que, essencialment, vol que la IA no sigui open source perquè creuen que és una tecnologia intrínsecament perillosa».
La pregunta és si creuen de veritat que és perillosa o si la narrativa del perill convé al seu model de negoci. Tanca el codi, controla l'accés, cobra la subscripció. El "és perillós" funciona com a barrera d'entrada disfressada d'ètica.
LeCun ho compara amb l'Església catòlica anomenant heretge Galileu: et donen l'eina, te la treuen i et diuen que és pel teu bé.
La IA com a Wikipedia vitaminada
Per a LeCun, la IA actual no és un oracle omnipotent ni una amenaça existencial. És, en les seves pròpies paraules, «una manera de disseminar coneixement». Els models de llenguatge permeten que la gent accedeixi de forma senzilla als repositoris de coneixement humà. Això és, avui, el que fa la IA: democratitzar l'accés al saber.
L'analogia és deliberada. Wikipedia no es va tancar perquè pogués usar-se per desinformar. Es va mantenir oberta perquè el coneixement compartit beneficia més gent de la que perjudica. La IA oberta segueix la mateixa lògica.
«Si compres un bolígraf, no vols que l'empresa que te'l ven et digui què pots escriure amb ell», va dir LeCun. La metàfora és simple però la conclusió és radical: les eines d'IA no poden dependre d'un grapat d'empreses que decideixin què pots fer amb elles.
Quan la regulació protegeix l'incumbent
El debat europeu és on l'obscurantisme es tradueix en legislatiu. L'EU AI Act, aprovat el 2024, debat com regular els models fonamentals. Alguns països pressionen perquè els models open-source quedin fora de la legalitat o carreguin amb obligacions que només els gegants poden complir.
La posició oficial de Mistral —la startup francesa que juntament amb Aleph Alpha d'Alemanya defensa l'open-source a Europa— va ser resumida pel seu CEO Arthur Mensch a X:
Regulate products, don't regulate technology. Promote open source foundational models. At the very least, don't regulate them in ways that favor incumbents.
És a dir: que el producte final es reguli (un sistema de selecció de personal, un assistent mèdic, un scoring creditici), però no el model subjacent. Regular la tecnologia base equival a regular el motor de combustió en lloc del cotxe. El resultat és que només els que ja tenen motor poden competir.
LeCun adverteix el que passa quan tanques el codi: «Quan investigues en secret, et quedes enrere. La resta del món anirà open source i et superarà». L'exemple és davant: DeepSeek, la startup xinesa que va sacsejar els mercats amb un model open-source que igualava els millors i va costar una fracció del que inverteixen els gegants estatunidencs. El va construir sobre PyTorch (Meta) i Llama (Meta). Sobre codi obert.
La trampa de la dependència
Darrere del debat tècnic n'hi ha un de geopolític. Si Europa prohibeix o ofega l'open-source en IA, es condemna a dependre de tres o quatre empreses estatunidenques o xineses per a tota la seva infraestructura cognitiva. LeCun va ser explícit:
«No podem permetre que aquests sistemes vinguin d'un grapat d'empreses de la Costa Oest dels EE.UU. o de la Xina».
La dependència no és només de cost. És de sobirania. Si la teva IA corre en una API remota, les teves dades surten, el teu proveïdor pot tallar l'aixeta, canviar condicions, pujar preus o decidir que el teu cas d'ús ja no li agrada. La història d'OpenAI —fundada com a open-source i convertida en empresa tancada— és el manual de com es traeix aquest principi.
L'open-source no és una posició ideològica. És una condició de sobirania: poder auditar, desplegar, modificar i mantenir sense demanar permís.
El que LeCun no diu (i que també importa)
LeCun té raó en allò essencial, però hi ha matisos que un post honest no pot ometre.
Els models open-source també poden ser perillosos. Un model sense restriccions pot usar-se per desinformació a escala, enginyeria social o ciberseguretat ofensiva. La diferència no és que l'open-source sigui innocent; és que el perill és gestionable quan el model és transparent, auditable i modificable per la comunitat.
La regulació de productes sí que és necessària. La pròpia Mistral ho reconeix. Un sistema d'IA que decideix si et donen un crèdit o un diagnòstic mèdic no pot operar sense supervisió, open-source o no.
La competència desigual és real. Meta finança Llama amb els ingressos del seu imperi publicitari. DeepSeek té el suport de l'estat xinès. L'open-source pur de garatge existeix, però competir a escala fonacional requereix recursos enormes. L'open-source no elimina la concentració de poder; la redistribueix.
La conclusió de Neurosint
A Neurosint defensem l'open-source no perquè sigui barat, sinó perquè és l'única arquitectura que preserva el control. Quan despleguem un model en la infraestructura d'un client, aquest client pot:
- Auditar què fa el model.
- Modificar el seu comportament sense demanar permís a un proveïdor.
- Mantenir el sistema si el proveïdor original desapareix.
- Protegir les seves dades dins del seu perímetre.
La narrativa de la por que critica LeCun no és només un debat acadèmic. És l'argument que s'usa per justificar el tancament, la dependència i el lock-in. I com va dir LeCun, amb la paciència de qui porta dècades escoltant el mateix discurs: això no és prudència. És obscurantisme.
Fonts:
- Yann LeCun, padrí de la IA — Xataka
- Europe Should Keep Open-Source AI Legal — Business Insider
- Yann LeCun a Meristation
- Yann LeCun sobre Mistral i l'EU AI Act — X
També et pot interessar
Preparat per al salt tecnològic?
No deixis que la teva pime quedi obsoleta. Implementem la infraestructura d'IA que et donarà l'avantatge competitiva.
Reserva la teva Auditoria Gratuïta