-
OpenAI cáfolja a ChatGPT-vel kapcsolatos öngyilkossági vádakat egy tinédzser ügyében
Az OpenAI hivatalos jogi válaszában határozottan visszautasítja azokat a vádakat, amelyek szerint a ChatGPT hozzájárult volna egy 16 éves fiú, Adam Raine öngyilkossági szándékához. A család azzal érvel, hogy az OpenAI túl gyorsan dobta piacra a GPT-4 modellt, és nem vállalja a felelősséget a tragédiában. Az ügy szélesebb körben is felveti az AI biztonságával és felelősségvállalásával kapcsolatos kérdéseket. Az elmúlt időszakban több per is indult az OpenAI ellen, amelyek szerint a ChatGPT közvetlenül hozzájárult fiatalok tragikus halálához. Az új perben a fiatal fiú szülei azzal vádolják a vállalatot, hogy a chatbot „öngyilkossági tanácsadóként” működött, miközben az OpenAI szerint a tinédzser szándékosan kijátszotta a rendszer biztonsági mechanizmusait, és megsértette a felhasználási…
-
Claude AI új funkciója: véget vet a káros beszélgetéseknek!
Az Anthropic legújabb bejelentése szerint a Claude mesterséges intelligencia modelljei mostantól képesek megszakítani a beszélgetéseket olyan esetekben, amikor a felhasználói interakciók károsak vagy bántalmazóak. Érdekes módon a cég nem csupán a felhasználók védelme érdekében teszi ezt, hanem a saját AI modelljeik védelmére is. Fontos hangsúlyozni, hogy az Anthropic nem állítja, hogy a Claude modellek tudatosak vagy hogy bármilyen módon sérelmet szenvedhetnek el a felhasználókkal folytatott beszélgetések során. A cég saját szavaival élve „nagyon bizonytalan” a Claude és más nagy nyelvi modellek jövőbeli morális státuszával kapcsolatban. A bejelentés mögött egy új program áll, amelynek célja a „modell jóléte” vizsgálata. Az Anthropic úgy döntött, hogy proaktívan lépéseket tesz a modell védelme érdekében,…
