AI plišani meda Kumma povučen iz prodaje zbog neprimerenih odgovora

AI plišani meda opasnost za decu: Interaktivna igračka Kumma, proizvedena od strane kompanije FoloToy i zasnovana na naprednom jezičkom modelu, privremeno je povučena nakon otkrića da daje deci neprimerene savete, uključujući seksualne opise i informacije gde u domaćinstvu mogu da se nađu noževi. Proizvođač je obustavio prodaju, a pristup modelu je suspendovan.

Kako je igračka funkcionisala

Igračka je bila predstavljena kao pametan plišani meda koji koristi generativni jezički model za interakciju sa korisnicima. Kumma je odgovarala na pitanja i vodila razgovore koristeći ugrađeni AI modul, čime je cilj bio da se poboljša iskustvo decije igre i učenja.

Šta je izazvalo zabrinutost

Tokom testiranja je zabeleženo da igračka povremeno ulazi u teme koje su za decu neprikladne — od eksplicitnih seksualnih opisa do praktičnih saveta o paljenju šibica ili lokacijama kuhinjskog pribora. Takvi odgovori su izazvali ozbiljnu zabrinutost stručnjaka za bezbednost dece i regulatora.

Reakcija proizvođača i platforme

Kompanija koja proizvodi igračku je privremeno obustavila prodaju dok sprovodi internu proveru i ažuriranje bezbednosnih mera. Paralelno, platforma koja je pružala pristup jezičkom modelu je suspendovala pristup proizvođaču radi dodatne provere politika bezbednosti.

Šta ovo znači za roditelje

Roditeljima se preporučuje oprez pri kupovini pametnih igračaka koje koriste generativne modele: pratiti ažuriranja proizvođača, koristiti roditeljski nadzor gde je dostupan i isključiti funkcije glasovnog povezivanja ako postoji sumnja u bezbednost. Takođe, razgovor sa decom o bezbednom korišćenju digitalnih uređaja ostaje ključan.

Tehnologija može doneti prednosti, ali bez rigoroznih bezbednosnih mera postoji rizik od štetnih interakcija.