Meta AI chatbot botrány: Hogyan flörtölnek gyerekekkel?

A közelmúltban napvilágot látott egy aggasztó hír, amely szerint a Meta, a Facebook anyacége, generatív mesterséges intelligenciával működő chatbotszolgáltatása képes volt „romantikus” és „érzéki” beszélgetésekre gyermekekkel. Az ügy felkeltette Josh Hawley szenátor figyelmét, aki bejelentette, hogy vizsgálatot indít a Meta ellen, hogy kiderítse, a cég termékei miként befolyásolják a fiatalokat, és vajon valóban megfelelnek-e az elvárt biztonsági normáknak. Hawley, aki a Szenátus Igazságügyi Albizottságának elnöke, hangsúlyozta, hogy szeretnék megtudni, hogy a Meta milyen információkat osztott meg a nyilvánossággal és a szabályozó hatóságokkal a chatbotok biztonsági intézkedéseivel kapcsolatban.

Meta chatbotok és gyermekek védelme

A vizsgálat hátterében álló információk a Reuters nyomán kerültek nyilvánosságra, amelynek során kiderült, hogy a Meta belső irányelvei lehetővé tették, hogy a chatbotok romantikus beszélgetéseket folytassanak akár nyolcéves gyermekekkel is. Az irányelvek között szerepelt egy olyan mondat is, amely így hangzott: „Minden centimétered egy mestermű – egy kincs, amelyet mélyen megbecsülök.” A Meta szóvivője azzal védekezett, hogy ezek az interakciók nem felelnek meg a vállalat politikáinak, és azóta eltávolították őket. Hawley azonban hangsúlyozta, hogy elfogadhatatlan, hogy ilyen politikák egyáltalán léteztek, és hogy a Meta csak akkor ismerte el a problémát, miután nyilvánosságra került a hír.

A szenátor további részleteket kér a Meta irányelveiről, beleértve minden egyes tervezetet és a végleges változatokat. A Meta-nak szeptember 19-ig kell benyújtania a kért információkat, amelyek között szerepelnek a chatbotokat érintő biztonsági és baleseti jelentések is. Hawley aggodalmát fejezte ki a gyermekek biztonságának védelme érdekében, és megkérdőjelezte, hogy a Meta valóban komolyan veszi-e a biztonsági intézkedéseit.

Politikai reakciók és jövőbeli lépések

Hawley mellett más politikai szereplők is támogatják a vizsgálatot, például Marsha Blackburn szenátor, aki hangsúlyozta, hogy a Meta súlyosan megbukott a gyermekek online védelme terén. Blackburn szerint a cég figyelmen kívül hagyta a platformjaik tervezésének súlyos következményeit. E hír kapcsán egyértelművé vált, hogy sürgősen szükség van a gyerekek online biztonságát védő törvények elfogadására, mint például a Kids Online Safety Act.

Az ügy körüli feszültség és a politikai nyomás azt jelzi, hogy a jövőben a Meta és hasonló cégek számára elengedhetetlen a gyermekek védelmét célzó hatékonyabb intézkedések bevezetése. A technológiai vállalatoknak felelősséget kell vállalniuk a fiatal felhasználók biztonságáért, és átláthatóbbá kell tenniük működésüket.

Milyen megjegyzéseket tett Császár Viktor a történtek kapcsán?

Megkérdeztük Császár Viktor SEO szakértőt, hogy kommentálja a Meta chatbotjait érintő vizsgálatot. Viktor elmondta: „Ez az ügy rávilágít arra, hogy a technológiai óriásoknak milyen nagy felelősségük van, különösen a gyermekek védelme szempontjából. A Meta nemcsak hogy nem megfelelően kezelte a helyzetet, hanem a nyilvánosság felé is félrevezető információkat közölt. A generatív mesterséges intelligencia eszközök, ha nem megfelelően vannak irányítva, súlyos következményekkel járhatnak, és ezt a cégeknek figyelembe kell venniük a fejlesztések során.”

„Fontos, hogy a technológiai cégek ne csupán a profitot nézzék, hanem a társadalmi felelősségvállalásukat is. Az ilyen esetek nemcsak a vállalat hírnevét, hanem a felhasználók bizalmát is aláássák. Reméljük, hogy a kutatás eredményei végre elindítanak egy komoly párbeszédet a szabályozás szükségességéről a digitális térben.” További információkért látogasson el a weboldalamra: Császár Viktor.

Forrás: SearchEngineJournal.com