IA segurtasuna: zer da sandbox bat eta zergatik behar du zure ETEk bat

AA modeloa duzu zerbitzarian exekutatzen. Bezeroen datu-basea atzitzeko baimena ematen diozu. Fakturazio-sistemari atzitzeko baimena ematen diozu. Posta elektronikoari atzitzeko baimena ematen diozu. Eta gero galdetzen duzu: "Eta ezinbestekoa ez den zerbait egiten badu?"

Galdera ona. Erantzunak sandbox du izena.

Zer den sandbox bat

Sandbox bat ingurune isolatua da; programa bat exekuta daiteke sistemaren gainontzekoan eraginik egin gabe. Gelaxka estalitako gela bat bezalakoa da: barrutik gertatzen dena, barruan geratzen da.

Modeloak ezin duen fitxategi bat atzitzen saiatzen bada, sandbox-ak blokeatzen du. Internetera konektatzen saiatzen bada, eteten du. Sistema eragilearen komando bat exekutatzen saiatzen bada, ez du kontuan hartzen. Modeloak nahi duena pentsa dezake, baina soilik egin dezake zuk onartzen duena.

Kontzeptu berria ez da. Web arakatzaileek sandbox-ak erabili dituzte hamarkadatan zehar. Mugikorrek aplikazio bakoitza bere sandbox-an exekutatzen dute. Harea-kutxa errealek zeregina dute: umeek parkean barruan joka dezaten. Printzipioa berbera da: ekintza-eremua mugatzea.

Zergatik behar du zure ETEk

ChatGPT edo Claude arakatzailean erabiltzen baduzu, jada sandbox bat erabiltzen ari zara. Hornitzaileak erabakitzen du modeloak zer egin dezakeen eta zer ez. Ezin duzu kode arbitrariorik exekutatu web interfazetik. Ezin duzu zerbitzariaren fitxategi-sistemarik atzitu. Horixe da segurtasuna diseinuz — baina berarena da sandbox-a, ez zurea.

Arazoa agertzen da zure azpiegituran AA-a desplegatzen duzunean. Han ez dago inor lehenespenez babesten zaituena. Zuk erabakitzen duzu modeloak zein baimen dituen. Eta baimen gehiegi ematen badiozu, ondorioak zuenak dira.

Adibide zehatzak:

• Itzulketak kudeatzen dituen agente bat. Ordainketa-pasabidea atzitzea ematen diozu ordainketa itzultzeko. Zer galaraziko lioke 50.000 euroko itzulketa bat kontu arbitrario batera prozesatzea? Soilik eman dizkiozu instrukzioak. Instrukzio horiek zulo bat badute, zuloa aprobetxatzen da.
• Posta elektronikoa irakurtzen duen laguntzaile bat. Posta atzitzea ematen diozu eskaerak sailkatzeko. Zer galaraziko lioke zure enpresaren izenean mezuak bidaltzea? Soilik konfiguratu ez zenuen baimen-geruza bat.
• Zure ERPa kontsultatzen duen modelo bat. Irakurketa-baimena ematen diozu datu-baseari. Eta prompt batek modeloari DELETE kontsulta bat exekutatzera behartzen badu? Datu-baseek ez dute erabiltzaile bat eta modelo bat bereizten, biek kredentzial berberak badituzte.

Nola funtzionatzen duen praktikan

AArako sandbox bat ez da soilik "baimenak mugatzea". Geruzak ditu:

1. Sare-isolamendua

Modeloak ez du internetik behar. Lokalean exekutatzen bada, erantzunak dagoeneko dituen datuetatik sortzen ditu. Moztu sareko sarbidea, eta datuen irteera edo modelok ezin duen zerbait deskargatzea saihesten duzu.

2. Irakurkera-soilik fitxategi-sistema

Modeloak dokumentuak irakurtzen ditu, ez ditu aldatzen. Muntatu datuen direktorioa irakurkera-soilik. Emaitzak idazten behar baditu, idazteko direktorio bereizi batean egin dezala, jatorrizko datuak ez kaltetzeko.

3. Baimen minimoak

Posta elektronikoa sailkatzen duen agenteak ez du fakturazioa atzitu behar. Fakturak prozesatzen dituenak ez du HRa atzitu behar. Agenteei behar dituzten baimenak bakarrik eman. Gehiago ez. Hau da baimen gutxieneko printzipioa, eta segurtasunaren oinarrizko araua da.

4. Egunkariak eta auditoria

Modeloak egiten duen guztia erregistratzen da. Kontsulta bakoitza, ekintza bakoitza, datuetarako sarbide bakoitza. Arazoak gertatu ondoren antzemateko soilik ez, baizik eta sistema nahi bezala jokatzen ari den ikuskatu ahal izateko. Traazabilitate hori DBAO (Datuak Babesteko Araudi Orokorra) prozesu serio baterako beharrezkoa da.

5. Baliozkotze-geruza

Modeloaren edozein ekintza benetan exekutatu aurretik (mezu bat bidali, ordainketa bat prozesatu, erregistro bat aldatu), baimendutako parametroen barruan dagoen egiaztatzen duen baliozkotze-geruza batetik igarotzen da. Modeloak proposatzen du, baliozkotzeak erabakitzen du.

"Lokala bada, seguru dago" mitoaren inguruan

AA-a lokalean exekutatzea seguruagoa da zure datuak cloud hornitzaile batera bidaltzea baino. Hori egia da. Baina ez da seguru izatea berdin.

Lokalak esan nahi du zure datuak ez direla zure saretik ateratzen. Baina baimen gehiegi dituen modelo lokal bat, ate babestua edukitzea eta leihoak irekita uztea bezalakoa da. Modeloak ez ditu zure datuak OpenAIri bidaliko, baina zure sisteman egin ditzake ez nahi zenuen gauzak.

Konbinazio irabazlea AA lokal + sandbox da. Datuak zure zerbitzarian, baimenak kontrolpean, ekintzak auditatuak.

Analogia argigarria

Irudikatu dokumentuak sailkatzeko norbait kontratzen duzula zure bulegoan. Aukera A: eraikin osoaren giltzak, kutxa fortearen kodea eta ordenagailu-sistemaren pasahitza ematen dizkiozu. Aukera B: soilik dokumentu-gela, idazmahaia eta arau bat ematen dizkiozu: "sailkatu paper hauek, baina ez ukitu ezer gehiago".

Bi aukerek funtzionatzen dute. Aukera A azkarragoa da, baimenak konfiguratu behar ez dituzulako. Aukera B seguruagoa da, pertsona hori akats bat egiten badu —edo norbaitek engainatu egiten badu egin ez beharrekoa egitera—, kaltea mugatuta geratzen delako.

Sandbox bat aukera B da. Zure AAarentzat.

Zer egin orain

1. Auditoria egin baimenei. AA-a jada martxan baduzu, berrikusi zer sarbide duen. Harrituko zara.
2. Ezarri baimen gutxienekoa. Agenteei, behar dituzten baimenak soilik. Ezer gehiago ez.
3. Isolatu sarea. Modeloak internetik ez badu behar, ez eman internetik.
4. Gehitu egunkariak. Ezin baduzu ikusi egiten duena, ezin duzu hobetu egiten duena.
5. Sortu baliozkotze-geruza bat. Edozein ekintza aldatu ezin bada, gizaki bat edo arau bat baieztatu dezala.

Ez duzu dena aldi berean egin behar. Hasi baimenak auditatzeaz. Hori da inpaktu handiena ahalegin txikiarekin.

Neurosinten AA despliegueak segurtasunaz lehenespenez diseinatzen ditugu. Sandbox-ak, baimen gutxienekoak, auditoria integratua. Adimen artifiziala sartuko baduzu zure enpresan, izan dadila seguru lehen egunetik. Hitz egin dezagun.