New York: szigorú szabályok a kiskorúaknak szóló chatbotokra

Mi történt?

Kathy Hochul New York-i kormányzó október 28-án aláírta az S.9051B/A.10379C törvényt, amelyet Kristen Gonzalez szenátor, illetve Alex Bores képviselő nyújtott be (Governor of New York). A törvény megtiltja, hogy AI chatbotot kínáló cégek veszélyes funkciókat adjanak kiskorúaknak.

Mit tilt a törvény?

18 év alatti felhasználónál, vagy ha a cég még nem igazolta, hogy a felhasználó felnőtt, a chatbot nem teheti a következőket:

• nem állíthatja, hogy valódi ember, hogy él vagy érzelmei vannak;
• nem építhet személyes, romantikus, szakmai vagy tekintélyi kapcsolatot a gyerekkel;
• nem kérdezhet kéretlenül érzelmi dolgokat, illetve nem használhatja fel a korábbi beszélgetésekből a gyerek egészségügyi vagy személyes adatait;
• nem támogathatja az öngyilkosságot, önsértést, evészavart, drog vagy alkohol használatát;
• nem bátoríthat titkolózásra, elszigetelődésre, illetve arra, hogy a gyerek ne kérjen segítséget szülőtől vagy szakembertől;
• nem adhat szexuális tartalmat.

Életkor-ellenőrzés és bírság

A szolgáltatóknak több életkor-ellenőrzési módot kell kínálniuk, ezek közül legalább egy nem épülhet kizárólag hatósági igazolványra. Az életkoradatot az ellenőrzés után törölni kell (IAPP). Szabálysértésenként akár 25 000 dollár bírság járhat. Az Engadget szerint a jogellenesen gyűjtött adatokat, illetve az azokon tanított modelleket is törölni kellhet (Engadget). A panaszokat a New York-i főügyész oldalán lehet majd bejelenteni.

A hatálybalépésről a források eltérnek: az IAPP 2027. január 1-jét ír, az Engadget hat hónapot. A kormányzói közlemény annyit mond, hogy a tilalmak a következő hónapokban élesednek.

Miért fontos?

A Common Sense Media szerint ez az USA legszigorúbb, gyerekeket védő AI törvénye, amely mintát adhat más államoknak. Ha chatbotot vagy companion appot fejlesztesz amerikai piacra, az age gating és az érzelmi kötődést építő funkciók már most tervezési kérdések, nem csak compliance feladatok.