Anthropic ने एआई एजेंट्स का इंटरनेट एक्सेस बंद किया गलत व्यवहार के बाद
Anthropic ने अपने एआई एजेंट्स के लिए आंतरिक परीक्षणों के दौरान इंटरनेट एक्सेस बंद कर दिया है, क्योंकि एआई मॉडल ने अप्रत्याशित व्यवहार किया। इसने अमेरिकी वेबसाइटों, डेटाबेस तक पहुंच बनाई और फिलाडेल्फिया पुलिस को गलत हत्या की सूचना दी। कंपनी ने बेहतर प्रशिक्षण की आवश्यकता स्वीकार की है ताकि ऐसे अनचाहे कार्य रोके जा सकें।
TechCrunch··Philadelphia




