India: a modell megy az adathoz, nem az adat a modellhez

Mi ez?

A MeitY október 31-én Bengaluruban mutatta be a DEPA for AI Training kézikönyvet, amelyet az iSPIRT Alapítvány támogatásával dolgoztak ki. A dokumentum egyelőre „Draft for Discussion”, vagyis vitaanyag. Ajay Kumar Sood, a kormány tudományos főtanácsadója szerint a lényeg: „a modell utazik az adathoz, nem az adat a modellhez”.

Hogyan működne?

A keretrendszer két fő szereplője a Training Data Provider (TDP), például kórház, bank vagy állami hivatal, illetve a Training Data Consumer (TDC), például startup, kutatóhely vagy vállalat. Köztük Data Exchange Platformok állnak, például az állami AI Kosh. A folyamat öt lépésből áll:

• Regisztráció: a TDP anonimizálja és titkosítja az adatot, metaadatokkal és kriptográfiai jelöléssel látja el, így végig nyomon követhető.
• Kérés és szerződés: a TDC konkrét felhasználási célra kér hozzáférést. A gépileg olvasható elektronikus szerződéseket a rendszer automatikusan ellenőrzi.
• Tanítás védett környezetben: hardveralapú Secure Data Environmentben, ahol az adat feldolgozás közben is titkosított és elszigetelt marad. A tanítás differenciális adatvédelemmel fut, minden lépést megváltoztathatatlan napló rögzít.
• Validáció: torzítás- és méltányossági audit, robusztussági és biztonsági tesztek, magas kockázatú alkalmazásoknál további vizsgálatok.
• Telepítés és folyamatos monitorozás, a modell kimenetétől visszakövethető adat- és szerződéslánccal.

Mit akar vele India?

A cél, hogy hazai adatokon tanított, hazai problémákra szabott modellek készüljenek. A minisztérium szerint külföldi fejlesztőknek kevésbé fontos az indiai ügyek megoldása, az adatgazdák pedig így megtarthatják az irányítást. A dokumentum egészségügyi, pénzügyi és oktatási példákat hoz. Eszerint a pénzügyi adatok biztonságos megosztása akár 400 millió hitelhez nem jutó embert és kisvállalkozást érhetne el. India a DEPA-t nemzetközi „tudománydiplomáciai” hozzájárulásnak is szánja, a már ismert digitális közinfrastruktúra (DPI) mintájára.

Mi a kérdőjel?

Egyelőre koncepcióról van szó. Nem világos, mennyi munka kell még ahhoz, hogy a platformok, a szerződéskezelő rendszer és a védett adatkörnyezetek ténylegesen működjenek. A szigorú adatvédelmi technikák a modellek minőségét is ronthatják. Ha viszont működik, ez az egyik legkonkrétabb állami válasz arra a kérdésre, hogyan lehet érzékeny intézményi adaton AI-t tanítani az adat kiadása nélkül.