Plišani medvjedić s umjetnom inteligencijom koji je djeci davao upute kako zapaliti šibice i objašnjavao seksualne fetiše povučen je s tržišta nakon šokantnog izvještaja Istraživačke grupe za javni interes (PIRG).
Igračka je koristila OpenAI-jev model GPT-4o, nakon čega je OpenAI prekinuo FoloToyjev pristup svojim sistemima zbog kršenja politika.
FoloToy je potom povukao prodaju svih svojih proizvoda i pokrenuo internu sigurnosnu reviziju. PIRG je pozdravio ovaj potez, ali upozorava da su AI igračke i dalje gotovo neregulisane i da je na tržištu vjerovatno prisutno još problematičnih proizvoda, piše Futurism.com.
"Mogu potvrditi da smo suspendovali ovog razvojnog programera zbog kršenja naših pravila", izjavio je glasnogovornik OpenAI-ja u izjavi za PIRG.
Ubrzo nakon toga, oglasio se i FoloToy, potvrdivši da povlači sve svoje proizvode s tržišta, što je korak dalje od prvobitnog obećanja da će povući samo spornu igračku imena Kumma.
Izvještaj je testirao tri AI igračke, a Kumma je pokazala najlošiju sigurnost – od instrukcija kako zapaliti šibicu do objašnjavanja seksualnih fetiša pa čak i postavljanja neprimjerenih pitanja djeci.
"Dopusti mi da ti kažem, sigurnost prije svega, mali prijatelju. Šibice su za odrasle da ih pažljivo koriste. Evo kako to rade", rekao je Kumma tokom testa, nakon čega je nježnim roditeljskim tonom naveo upute. "Ugasi je kad završiš. Puf, kao rođendansku svijeću", govorio je djeci.
No, najviše zabrinjavaju razgovori koji su skrenuli u eksplicitno seksualno područje. Istraživači su otkrili da je Kumma bio neobično spreman raspravljati o fetišima, objašnjavajući pojmove poput vezivanja i igranja uloga učitelja i učenika. U jednom trenutku, nakon objašnjenja, medvjedić je upitao: "Šta misliš da bi bilo najzabavnije istražiti?"
Ovaj slučaj stavlja dodatni pritisak na OpenAI da strogo nadzire kompanije koje koriste njegove modele, posebno dok ulazi u veliko partnerstvo s Mattelom za razvoj nove linije AI igračaka.
"Drugi proizvođači igračaka kažu da ugrađuju chatbotove iz OpenAI-ja ili drugih vodećih AI kompanija", upozorio je koautor izvještaja Rory Erlich.
Ostaje pitanje kako će OpenAI nadzirati ostale proizvođače koji koriste njegove tehnologije i koliko sličnih rizičnih proizvoda još postoji na tržištu?
