Yann LeCun IAren obskurantismoaren kontra: zergatik open-source-a da defentsa bakarra

Eszena bat errepikatzen da. Enpresa batek IA eredu bat kaleratzen du, "publikatzeko arriskutsuegia" dela adierazten du eta gero sarrera kobratzen du. Gidoia ez da aldatu 2019z geroztik. Yann LeCun-ek —Meta-ko presidenteordea eta IA zientzialari burua, deep learning modernoaren hiru sortzaileetako batek— urteak daramatza gidoi hau propagandak dela esaten, ez zientziak.

Bere azken agerraldi publikoa, Steven Levy-rekin VivaTech-en izandako solasaldian, zuzena izan zen: «Tresna bat blokeatzen baduzu oso arriskutsua dela pentsatzen baduzu, erdi Aroko obskurantismoan zaude».

Hau ez da LinkedInerako esaldi bat. Printzipio-adierazpena da IAk nor kontrolatu beharko lukeen eta, hedaduraz, datorren mendeko ezagutza nor kontrolatu beharko lukeen buruz.

Beldurraren narrazioa estrategia komertzial gisa

Azken eztanda Claude Mythos da, Anthropic-en apirilean aurkeztutako "inong ez ikusitako onena" eta zirkulu itxira murriztutako modeloa. Enpresak segurtasun-arriskuak aipatu zituen. AEBetako gobernuak nazionalitatearen arabera sarbide-murrizketak gehitu zituen. Mezua: IA hau hain boteretsua da ezen gutxi batzuek bakarrik uzin dezakete.

LeCun-ek apaindurarik gabe laburtzen du: «Anthropic eta beste gutxi batzuk lobby bat dira, funtsean, IA ez dela open source izan nahi dute, intrintsekokoki arriskutsua den teknologia dela uste dutelako».

Galdera da benetan arriskutsua dela uste duten ala beldurraren narrazioa bere negozio-ereduari ondo egokitzen zaion. Kodea itxi, sarbidea kontrolatu, harpidetza kobratu. "Arriskutsua da" sarrera-barreira gisa funtzionatzen du, etika mozorroa duena.

LeCun-ek Eliza Katolikoarekin alderatzen du, Galileo heretiko deitu ziona: tresna ematen dizute, kentzen dizute eta zure onerako dela esaten dizute.

IA Wikipedia indartu gisa

LeCun-entzat, gaur egungo IA ez da orakulu ahalguztidun bat ezta mehatxu existentziala ere. Bere hitzetan, «ezagutza zabaltzeko modu bat» da. Hizkuntza-ereduei esker, jendeak erraza du giza ezagutzaren biltegiei sarrera. Hori da, gaur, IA-k egiten duena: ezagutzarako sarbidea demokratizatzea.

Analogia deliberatua da. Wikipedia ez zuten itxi desinformaziorako erabil zitekeelako. Irekita mantendu zuten ezagutza partekatuak kalte egiten diotenak baino jende gehiagori mesede egiten ziolako. IA irekiak logika bera jarraitzen du.

«Boligrafo bat erosten baduzu, ez duzu nahi saltzen dizun enpresak esatea zer idatzi dezakezun», esan zuen LeCun-ek. Metafora sinplea da baina ondorioa erradikala: IA tresnek ezin dute enpresa talde baten mende egon, haiek erabakitzen dutena egin dezakezun.

Erregulazioak nagusiari babesten dionean

Debate europarra da obskurantismoa legegintzara itzultzen den lekua. EU AI Act, 2024an onartua, oinarri-ereduak nola erregulatu eztabaidatzen ari da. Herrialde batzuek presioa egiten dute open-source ereduak legez kanpo uzteko edo giganteek bakarrik bete ditzaketen betebeharrekin zamatzeko.

Mistral-en posizio ofiziala —Aleph Alpha alemaniarrarekin batera open-source-a Europan defendatzen duen startup frantsesarena— bere CEO Arthur Mensch-ek X-en laburtu zuen:

Regulate products, don't regulate technology. Promote open source foundational models. At the very least, don't regulate them in ways that favor incumbents.

Hau da: azken produktua erregulatzea (lan-kontratazio sistema bat, laguntza mediko bat, kreditu-puntuazio tresna bat), baina ez azpiko eredua. Oinarri-teknologia erregulatzea barne-errekuntzako motora kotxearen ordez erregulatzea bezalakoa da. Emaitza da motorra duenak bakarrik lehiatu dezakeela.

LeCun-ek ohartarazten du kodea ixten duzunean zer gertatzen den: «Secretuagoan ikertzen duzunean, atzean geratzen zara. Munduaren gainerakoa open source izango da eta zait gaindituko zaitu». Adibidea hor dago: DeepSeek, merkatuak astindu zituen txinatar startup-a, onenak berdintzen zituen open-source eredu batekin, eta AEBetako giganteek inbertitzen dutenaren zati bat kostatu zitzaion. PyTorch (Meta) eta Llama (Meta)-ren gainean eraiki zuen. Kode irekian.

Menpekotasunaren tranpa

Debate teknikoaren atzean debate geopolitiko bat dago. Europak open-source IA debekatzen edo itotzen badu, bere azpiegitura kognitibo osoaren menpe hiru edo lau enpresa estatubatuar edo txinatarren mende egotea kondimatzen du. LeCun esplizitua izan zen:

«Ezin dugu onartu sistema horiek AEBetako Costa Oesteko enpresa talde batetik edo Txinatik etortzea».

Menpekotasuna ez da kostuarena soilik. Subiranotasunarena da. Zure IA urruneko API batean korritzen bada, zure datuak ateratzen dira, zure hornitzaileak txorrota moztu dezake, baldintzak alda ditzake, prezioak igo ditzake edo zure erabilera-kasua ez zaioela gustatzen erabaki dezake. OpenAI-ren historia —open-source gisa sortua eta enpresa itxi bihurtua— printzipio hori nola traizionatzen den eskuliburua da.

Open-source-a ez da jarrera ideologikoa. Subiranotasun-baldintza bat da:审计, zabaldu, aldatu eta mantentzeko ahalmena, baimenik eskatu gabe.

LeCun-ek esaten ez duena (eta ere badela)

LeCun-ek arrazoia du funtsean, baina post zintzo batek ezin ditu alde batera utzi tonu hauek.

Open-source ereduak ere arriskutsuak izan daitezke. Murrizketarik gabeko eredu bat eskala handiko desinformaziorako, ingeniaritza sozialerako edo zibersegurtasun ofentsiborako erabil daiteke. Aldea ez da open-source-a kaltegarria ez denik; arriskua kudeagarria dela da, eredua gardena, auditagarria eta komunitateak alda dezakeenean.

Produktuen erregulazioa beharrezkoa da. Mistral berak aitortzen du hori. Mailegu bat ematen dizutela edo diagnostiko mediko bat ematen dizutela erabakitzen duen IA sistema batek ezin du funtzionatu gainbegiradurik gabe, open-sourcea izan ala ez.

Lehia desberdina benetakoa da. Meta-k Llama finantzatzen du bere inperio publizitarioaren diru-sarrerekin. DeepSeek-ek Txinako estatuaren babesa du. Garajeko open-source purua existitzen da, baina oinarri-mailan lehiatzeko baliabide izugarriak behar dira. Open-source-ak ez du botere-kontzentrazioa kentzen; birbanatzen du.

Neurosint-en ondorioa

Neurosint-en open-source-a defendatzen dugu merkea delako ez, baizik eta kontrola mantentzen duen arkitektura bakarra delako. Eredu bat bezero baten azpiegituran zabaltzen dugunean, bezero horrek:

• Auditatu dezake ereduak zer egiten duen.
• Aldatu dezake bere portaera hornitzaile baimenik eskatu gabe.
• Mantendu dezake sistema jatorrizko hornitzailea desagertzen bada.
• Babestu ditzake bere datuak bere perimetroaren barruan.

LeCun-ek kritikatzen duen beldurraren narrazioa ez da debate akademiko bat soilik. Itxiera, menpekotasuna eta lock-in-a justifikatzeko erabiltzen den argumentua da. Eta LeCun-ek esan zuen bezala, urteetan diskurtso bera entzuten armanako pazientziarekin: hori ez da prudentzia. Obskurantismoa da.

Iturriak:

• Yann LeCun, IAren aitona — Xataka
• Europe Should Keep Open-Source AI Legal — Business Insider
• Yann LeCun Meristation-en
• Yann LeCun Mistral eta EU AI Act-ari buruz — X

Gai erlazionatuak

• OpenClaw, OpenFang eta Hermes
• Zergatik behar du zure enpresak bere IA propioa izan
• Llama 3 vs Mistral