मैन फाइल्स ने चैट के खिलाफ शिकायत की, क्योंकि उसने दावा किया कि उसने अपने बच्चों की हत्या कर दी थी

Wtf?! यहां तक ​​कि जब जनरेटिव एआई अधिक व्यापक हो जाता है, तो सिस्टम मतिभ्रम के लिए प्रवण रहते हैं। लोगों को पिज्जा पर गोंद लगाने और चट्टानों को खाने की सलाह देना एक बात है, लेकिन चैट ने एक ऐसे व्यक्ति को गलत तरीके से बताया कि उसने अपने दो बेटों को मारने के लिए 21 साल जेल में बिताए थे।

नॉर्वेजियन नेशनल आरवे हजल्मर होलमेन ने नॉर्वेजियन डेटा प्रोटेक्शन अथॉरिटी से संपर्क किया, जब उन्होंने यह देखने का फैसला किया कि चैट ने उनके बारे में क्या जानता था।

चैटबॉट ने अपने सामान्य रूप से आत्मविश्वास से जवाब दिया, यह कहते हुए कि होलमेन ने अपने दो बेटों की हत्या कर दी थी और अपने तीसरे बेटे को मारने का प्रयास किया था। इसमें कहा गया है कि उन्हें इन नकली अपराधों के लिए 21 साल की जेल की सजा सुनाई गई थी।

जबकि कहानी पूरी तरह से गढ़ी गई थी, होलमेन के जीवन के तत्व थे जो चैटगिप्ट को सही मिला, जिसमें उनके बच्चों की संख्या और लिंग, उनकी अनुमानित उम्र और उनके गृहनगर का नाम शामिल था, जिससे हत्या के बारे में झूठे दावे और अधिक भयावह थे।

होलमेन का कहना है कि उन पर कभी आरोप लगाया गया है और न ही किसी अपराध का दोषी ठहराया गया है और वे एक कर्तव्यनिष्ठ नागरिक हैं।

होलमेन ने मतिभ्रम के बारे में गोपनीयता अधिकार समूह NOYB से संपर्क किया। यह सुनिश्चित करने के लिए शोध किया कि चैटगिप्ट होलमेन को किसी और के साथ मिलाया नहीं जा रहा है, संभवतः एक समान नाम के साथ। समूह ने अखबार के अभिलेखागार की भी जाँच की, लेकिन यह सुझाव देने के लिए कुछ भी स्पष्ट नहीं था कि चैटबॉट इस भीषण कहानी को क्यों बना रहा था।

चटप्ट का एलएलएम तब से अपडेट किया गया है, इसलिए होलमेन के बारे में पूछे जाने पर यह कहानी को दोहराता नहीं है। लेकिन NOYB, जो कि चैट के बारे में झूठी जानकारी प्रदान करते हुए अतीत में Openai के साथ टकरा गया है, ने अभी भी नॉर्वेजियन डेटा प्रोटेक्शन अथॉरिटी, Datatilsynet के साथ एक शिकायत दर्ज की है।

शिकायत के अनुसार, OpenAI ने GDPR नियमों का उल्लंघन किया कि राज्य कंपनियों को व्यक्तिगत डेटा को संसाधित करने वाली राज्य कंपनियों को यह सुनिश्चित करना चाहिए कि यह सटीक है। यदि ये विवरण सटीक नहीं हैं, तो इसे सही या हटा दिया जाना चाहिए। हालांकि, NOYB का तर्क है कि जैसा कि CHATGPT प्रशिक्षण उद्देश्यों के लिए सिस्टम में उपयोगकर्ता डेटा को वापस खिलाता है, कुछ निश्चित होने का कोई तरीका नहीं है कि गलत डेटा को LLM के डेटासेट से पूरी तरह से हटा दिया गया है।

NOYB यह भी दावा करता है कि CHATGPT GDPR के अनुच्छेद 15 का अनुपालन नहीं करता है, जिसका अर्थ है कि कोई गारंटी नहीं है कि आप याद कर सकते हैं या देख सकते हैं प्रत्येक एक व्यक्ति के बारे में डेटा का टुकड़ा जिसे डेटासेट में खिलाया गया है। “यह तथ्य अभी भी शिकायतकर्ता के लिए संकट और भय का कारण बनता है, [Holmen]”नोयब ने लिखा।

NOYB DataTilsynet को Openai को ऑर्डर करने के लिए कह रहा है कि वे होलमेन के बारे में मानहानि के आंकड़ों को हटाने के लिए और अपने मॉडल को व्यक्त करने के लिए व्यक्तियों के बारे में गलत परिणामों को खत्म करने के लिए, जो कोई सरल कार्य नहीं होगा।

अभी, इन स्थितियों में अपनी पीठ को कवर करने की Openai की विधि चैटगिप्ट के पेज के निचले भाग में एक छोटे से अस्वीकरण तक सीमित है, जिसमें कहा गया है, “चटप्ट गलतियाँ कर सकते हैं। महत्वपूर्ण जानकारी की जाँच करें,” जैसे कि कोई डबल कातिल है।