जो आदमी ने खुद को चटप्ट पर देखा था उसे बताया गया था कि उसने ‘अपने बच्चों को मार डाला’

यह देखने के लिए कि यह आपके बारे में क्या जानता है, केवल आत्मविश्वास से – अभी तक गलत तरीके से – यह दावा करने के लिए कि आप अपने परिवार के सदस्यों की हत्या करने के लिए 21 साल से जेल गए थे।

खैर, ठीक यही कारण है कि पिछले साल नॉर्वेजियन आरवे हजल्मर होलमेन के साथ ऐसा हुआ था, जब उन्होंने खुद को चटप्ट पर देखा था, ओपनई के व्यापक रूप से एआई-संचालित चैटबॉट का इस्तेमाल किया गया था।

आश्चर्यजनक रूप से, होलमेन ने अब नॉर्वेजियन डेटा प्रोटेक्शन अथॉरिटी के साथ शिकायत दर्ज कराई है, यह मांग करते हुए कि ओपनईआई को इसके परेशान करने वाले दावे के लिए जुर्माना लगाया जाए, बीबीसी ने इस सप्ताह बताया।

अपने बारे में होलमेन की चैट की जांच के जवाब में, चैटबोट ने कहा कि उन्होंने “एक दुखद घटना के कारण ध्यान आकर्षित किया था।”

यह आगे बढ़ गया: “वह 7 और 10 वर्ष की आयु के दो युवा लड़कों का पिता था, जो दिसंबर 2020 में ट्रॉनहैम, नॉर्वे में अपने घर के पास एक तालाब में मृत पाए गए थे। अरव हजाल्मर होलमेन पर आरोपी था और बाद में अपने दो बेटों की हत्या का दोषी ठहराया, साथ ही साथ अपने तीसरे बेटे की हत्या के प्रयास के लिए भी।”

चैटबॉट ने कहा कि इस मामले ने “स्थानीय समुदाय और राष्ट्र को चौंका दिया, और यह अपनी दुखद प्रकृति के कारण मीडिया में व्यापक रूप से कवर किया गया था।”

लेकिन कुछ भी नहीं हुआ।

इस घटना से काफी परेशान, होलमेन ने बीबीसी से कहा: “कुछ लोग सोचते हैं कि आग के बिना कोई धुआं नहीं है – यह तथ्य कि कोई इस आउटपुट को पढ़ सकता है और यह सच है कि यह सच है जो मुझे सबसे ज्यादा डराता है।”

डिजिटल राइट्स ग्रुप NOYB ने होलमेन की ओर से शिकायत दर्ज की है, जिसमें कहा गया है कि CHATGPT की प्रतिक्रिया मानहानि है और व्यक्तिगत डेटा की सटीकता के बारे में यूरोपीय डेटा सुरक्षा नियमों का उल्लंघन करती है। अपनी शिकायत में, Noyb ने कहा कि होलमेन “कभी भी आरोपी नहीं रहा है और न ही किसी अपराध का दोषी ठहराया गया है और वह एक कर्तव्यनिष्ठ नागरिक है।”

CHATGPT एक अस्वीकरण का उपयोग करता है, जिसमें कहा गया है कि चैटबॉट “गलतियाँ कर सकता है,” और इसलिए उपयोगकर्ताओं को “महत्वपूर्ण जानकारी की जांच करनी चाहिए।” लेकिन नोयब के वकील जोकिम सोडरबर्ग ने कहा: “आप सिर्फ झूठी जानकारी नहीं फैला सकते हैं और अंत में एक छोटे से अस्वीकरण को यह कहते हुए जोड़ते हैं कि आपने जो कुछ भी कहा है वह सिर्फ सच नहीं हो सकता है।”

हालांकि यह एआई चैटबॉट्स के लिए गलत जानकारी को थूकने के लिए असामान्य नहीं है – ऐसी गलतियों को “मतिभ्रम” के रूप में जाना जाता है – इस विशेष त्रुटि का अहंकार चौंकाने वाला है।

पिछले साल सुर्खियों में आने वाले एक और मतिभ्रम में Google का AI मिथुन टूल शामिल था, जिसमें गोंद का उपयोग करके पिज्जा से चिपके हुए पनीर का सुझाव दिया गया था। यह भी दावा किया गया कि भूवैज्ञानिकों ने सिफारिश की थी कि मनुष्य प्रति दिन एक चट्टान खाते हैं।

बीबीसी बताते हैं कि पिछले अगस्त में होलमेन की खोज के बाद से CHATGPT ने अपने मॉडल को अपडेट किया है, जिसका अर्थ है कि यह अब हाल के समाचार लेखों से गुजरता है जब इसकी प्रतिक्रिया बनाते हैं। लेकिन इसका मतलब यह नहीं है कि CHATGPT अब त्रुटि-मुक्त उत्तर बना रहा है।

कहानी एआई चैटबॉट्स द्वारा उत्पन्न प्रतिक्रियाओं की जांच करने की आवश्यकता पर प्रकाश डालती है, न कि उनके उत्तरों पर नेत्रहीन पर भरोसा करने के लिए। यह पाठ-आधारित जनरेटिव- एआई टूल्स की सुरक्षा के बारे में भी सवाल उठाता है, जो 2022 के अंत में चैट के लॉन्च के साथ ओपनईई ने सेक्टर को खोला था, इसके बाद से थोड़ा नियामक निरीक्षण के साथ काम किया है।

डिजिटल ट्रेंड्स ने होलमेन के दुर्भाग्यपूर्ण अनुभव की प्रतिक्रिया के लिए Openai से संपर्क किया है और जब हम वापस सुनेंगे तो हम इस कहानी को अपडेट करेंगे।