क्रिटिकल और सहभागी एआई खबरें

दुनिया भर से ज़िम्मेदार, क्रिटिकल और समुदाय-संचालित एआई की ताज़ा खबरें।

• 2026-05-07 वैश्विक

  वैश्विक रिपोर्ट: एआई का उपयोग बढ़ा, पर उत्तर-दक्षिण की खाई चौड़ी हुई

  माइक्रोसॉफ्ट की 2026 एआई डिफ्यूजन रिपोर्ट के अनुसार दुनिया की कामकाजी उम्र की 17.8 प्रतिशत आबादी अब एआई इस्तेमाल करती है, और ग्लोबल साउथ और पीछे छूट रहा है।

  पूरा पढ़ें

  माइक्रोसॉफ्ट के मुख्य डेटा वैज्ञानिक हुआन लविस्ता फेरेस ने मई 2026 में कंपनी की ग्लोबल एआई डिफ्यूजन रिपोर्ट जारी की, जो मापती है कि हर देश में कामकाजी उम्र के कितने लोग असल में जनरेटिव एआई इस्तेमाल करते हैं।

  2026 की शुरुआत में वैश्विक उपयोग बढ़कर 17.8 प्रतिशत हुआ; संयुक्त अरब अमीरात करीब 70 प्रतिशत के साथ सबसे आगे रहा। पर खाई साफ है: ग्लोबल नॉर्थ में करीब 27.5 प्रतिशत लोग एआई इस्तेमाल करते हैं, ग्लोबल साउथ में 15.4 प्रतिशत, और तिमाही के दौरान यह अंतर और बढ़ा।

  एक उम्मीद भरा संकेत भी है: एशियाई भाषाओं में बेहतर एआई समर्थन से जापान, दक्षिण कोरिया और थाईलैंड जैसे देशों में उपयोग साफ तौर पर बढ़ा। यानी कौन एआई इस्तेमाल कर पाएगा, यह सिर्फ बुनियादी ढांचा नहीं, भाषा-समर्थन तय करता है। जिन समुदायों की भाषा एआई नहीं बोलता, उनके लिए यह रिपोर्ट बहिष्करण का आँकड़ा है।

  स्रोत: Microsoft On the Issues

• 2026-03-25 अमेरिका

  अमेरिकी सांसदों ने विशाल एआई डेटा सेंटरों पर रोक का बिल पेश किया

  सीनेटर बर्नी सैंडर्स और प्रतिनिधि एलेक्जांड्रिया ओकासियो-कोर्टेज ने बिल पेश किया कि राष्ट्रीय सुरक्षा-उपाय बनने तक बड़े एआई डेटा सेंटरों का निर्माण रुके।

  पूरा पढ़ें

  सीनेटर बर्नी सैंडर्स ने 25 मार्च 2026 को अमेरिकी सीनेट में आर्टिफिशियल इंटेलिजेंस डेटा सेंटर मोरेटोरियम एक्ट पेश किया; जून में प्रतिनिधि एलेक्जांड्रिया ओकासियो-कोर्टेज हाउस का संस्करण लाईं, और कई सांसद सह-प्रायोजक बने।

  बिल 20 मेगावाट या उससे अधिक बिजली खींचने वाले डेटा सेंटरों का निर्माण या विस्तार तब तक रोक देगा जब तक संसद बिजली की कीमतों, पानी की खपत, निजता और सामुदायिक असर पर सुरक्षा-कानून न बना ले। यह अमेरिका भर की उन शिकायतों के बाद आया है कि एआई केंद्र घरेलू बिजली-बिल बढ़ाते और स्थानीय पानी पर बोझ डालते हैं।

  अमेरिका में सौ से अधिक स्थानीय समुदाय पहले ही अपने-अपने डेटा सेंटर मोरेटोरियम पारित कर चुके हैं। बिल कानून बने या नहीं, यह संकेत है कि एआई का भौतिक पदचिह्न, यानी चैट विंडो के पीछे की जमीन, बिजली और पानी, अब मुख्यधारा का राजनीतिक मुद्दा है।

  स्रोत: Office of Senator Bernie Sanders

• 2026-02-26 वैश्विक

  माइकल रनिंग वुल्फ: लुप्तप्राय स्वदेशी भाषाओं की सेवा में एआई

  एक नॉर्दर्न शायेन कंप्यूटर वैज्ञानिक स्पीच तकनीक और युवाओं के कोडिंग कैंप बना रहे हैं, ताकि स्वदेशी भाषाएँ एआई के दौर में अपनी शर्तों पर जिंदा रहें।

  पूरा पढ़ें

  ग्रामीण मोंटाना में पले-बढ़े नॉर्दर्न शायेन कंप्यूटर वैज्ञानिक माइकल रनिंग वुल्फ कभी अमेज़न की एलेक्सा (Alexa) पर बतौर इंजीनियर काम करते थे। उन्होंने यह सवाल पूछने के लिए वह राह छोड़ी: वॉइस असिस्टेंट हर बड़ी भाषा बोलते हैं, तो अमेरिका महाद्वीपों की सैकड़ों स्वदेशी भाषाओं में से एक भी क्यों नहीं?

  उन्होंने मॉन्ट्रियल के मीला (Mila) एआई संस्थान के साथ फर्स्ट लैंग्वेजेज एआई रियलिटी की सह-स्थापना की, जो स्वदेशी भाषाओं के लिए स्पीच रिकग्निशन बना रही है; इन भाषाओं का जटिल व्याकरण आम टूल्स से नहीं सधता। पत्नी कैरोलिन के साथ वे लकोटा एआई कोड कैंप भी चलाते हैं, जहाँ आदिवासी किशोर अपने ही डेटा पर एआई बनाना सीखते हैं।

  फरवरी 2026 की रिपोर्टिंग ने डेटा-संप्रभुता पर उनके आग्रह को सामने रखा: रिकॉर्डिंग का मालिकाना समुदायों के पास रहे, टेक कंपनियों को दान न हो। उनका तर्क है कि भाषा का पुनर्जीवन और एआई का हुनर एक-दूसरे को मजबूत कर सकते हैं, बशर्ते चाबियाँ समुदाय के हाथ में हों।

  स्रोत: Prism Reports

• 2026-02-21 भारत

  भारत में एआई इम्पैक्ट समिट: 92 देशों ने नई दिल्ली घोषणापत्र अपनाया

  अब तक की सबसे बड़ी वैश्विक एआई बैठक फरवरी 2026 में नई दिल्ली में हुई और एआई के लाभ सबमें बराबरी से बाँटने के घोषणापत्र के साथ समाप्त हुई।

  पूरा पढ़ें

  भारत ने 16 से 21 फरवरी 2026 तक नई दिल्ली में एआई इम्पैक्ट समिट की मेजबानी की, जो यूके, दक्षिण कोरिया और फ्रांस की पिछली एआई शिखर-बैठकों की अगली कड़ी थी; लाखों लोग इसमें प्रत्यक्ष और ऑनलाइन शामिल हुए।

  समापन घोषणापत्र को 92 देशों और अंतरराष्ट्रीय संगठनों ने अपनाया; इसका सूत्र था ‘सर्वजन हिताय, सर्वजन सुखाय’। पहलों में 30 से अधिक देशों के साझा उपयोग-उदाहरणों वाला ग्लोबल एआई इम्पैक्ट कॉमन्स और कामगारों को तैयार करने के लिए अंतरराष्ट्रीय श्रम संगठन (ILO) के साथ बनी नियम-पुस्तिका शामिल थीं।

  समिट के इर्द-गिर्द 200 अरब डॉलर से अधिक के एआई निवेश की घोषणाएँ हुईं। भारत के लिए यह आयोजन एआई के शासन में ग्लोबल साउथ की आवाज बनने का दावा था; घोषणापत्र जमीन पर क्या बदलेगा, यह अमल पर निर्भर करेगा।

  स्रोत: Press Information Bureau, Government of India

• 2026-02-19 भारत

  दिल्ली: बेटी की एआई-क्लोन आवाज़ से माँ से 2 लाख रुपये ठगे गए

  जालसाजों ने सोशल मीडिया की क्लिप से बेटी की आवाज़ क्लोन की और 65 वर्षीय महिला को फर्जी अपहरण की कॉल कर पैसे ट्रांसफर करवाए।

  पूरा पढ़ें

  दिल्ली की 65 वर्षीय महिला को फरवरी 2026 में एक कॉल आई जिसमें रोती-बिलखती, हूबहू उनकी बेटी जैसी आवाज़ ने अपहरणकर्ताओं से बचाने की गुहार लगाई। तुरंत भुगतान के दबाव में उन्होंने 2 लाख रुपये ट्रांसफर कर दिए। बेटी पूरे समय घर पर सुरक्षित थी।

  जाँचकर्ताओं के अनुसार जालसाज सोशल मीडिया से आवाज़ की छोटी क्लिपें उठाते हैं; कुछ सेकंड का साफ ऑडियो ही एआई टूल्स के लिए भरोसेमंद क्लोन बनाने को काफी है। कॉल करने वाले रोने और पीछे के शोर से असलियत का भ्रम गढ़ते हैं और तुरंत यूपीआई (UPI) या बैंक ट्रांसफर माँगते हैं, ताकि जाँचने का समय ही न मिले।

  पुलिस और साइबर-सुरक्षा समूहों का अनुमान है कि ऐसी एआई-आधारित ठगी तेजी से बढ़ेगी। सलाह है कि परिवार एक गुप्त कोड-शब्द तय करें, जाने-पहचाने नंबर पर वापस कॉल करके पुष्टि करें, और पैसों की हर आपात माँग को शक की नजर से देखें; भारत में ठगी की सूचना तुरंत 1930 हेल्पलाइन पर दें। अकेले रहने वाले बुजुर्ग सबसे ज्यादा निशाने पर हैं।

  स्रोत: The420.in

• 2026-01-15 भारत

  भाषिणी: भारतीय भाषाओं का एआई बनाने के लिए अपनी आवाज़ देना

  भारत की यह पहल लोगों को एआई के लिए सामुदायिक भाषा-डेटा बनाने हेतु अपनी आवाज़ का योगदान देने की सुविधा देती है।

  पूरा पढ़ें

  भाषिणी (Bhashini) भारत सरकार के इलेक्ट्रॉनिक्स और आईटी मंत्रालय के अधीन राष्ट्रीय भाषा अनुवाद मिशन के रूप में चलती है। इसे प्रधानमंत्री नरेंद्र मोदी ने जुलाई 2022 में शुरू किया था, एक साफ मकसद के साथ: इंटरनेट और अब एआई (AI) भारत की सभी 22 अनुसूचित भाषाओं में काम करे, सिर्फ अंग्रेजी और हिंदी में नहीं।

  इसका क्राउडसोर्सिंग हिस्सा, भाषा दान (Bhasha Daan), आम नागरिकों को न्योता देता है कि वे वाक्य पढ़कर अपनी आवाज़ दान करें, सुनकर लिखें, और दूसरों के अनुवाद जाँचें। ये योगदान खुले डेटासेट और मॉडल बनते हैं, जिन पर कोई भी डेवलपर काम कर सकता है।

  भाषिणी के टूल अब सरकारी सेवाओं और ऐप्स में अनुवाद के पीछे काम कर रहे हैं, और इस परियोजना की चर्चा दुनिया भर में इस मॉडल के रूप में होती है कि राज्य खुद सार्वजनिक भाषा-ढांचा बनाए, इसे सिर्फ निजी कंपनियों पर न छोड़े। छोटी भाषाओं के बोलने वालों के लिए यह एआई की दुनिया में जाने के गिने-चुने आधिकारिक दरवाजों में से एक है।

  स्रोत: Digital India Bhashini Division

• 2025-08-01 अफ़्रीका

  मसाखाने: 30+ अफ़्रीकी भाषाओं के लिए समुदाय द्वारा बनाया गया अनुवाद

  अफ़्रीकी समुदायों ने अपने अनुवाद औज़ार बनाए - सहभागी एआई का एक आदर्श उदाहरण।

  पूरा पढ़ें

  मसाखाने (Masakhane) का इसिज़ुलु भाषा में अर्थ है ‘हम मिलकर बनाते हैं’। यह पहल लगभग 2019 में शुरू हुई, जब अफ्रीकी भाषा-प्रौद्योगिकी शोधकर्ता, जिनमें दक्षिण अफ्रीका की सॉफ्टवेयर इंजीनियर जेड एबॉट भी थीं, इस बात से थक गए कि अफ्रीकी भाषाओं पर शोध ज्यादातर बाहरी लोग करते हैं, या होता ही नहीं।

  यह एक खुले, स्वयंसेवी समूह की तरह चलता है: कोई भी इसके चैनलों से जुड़कर डेटा या कोड का योगदान दे सकता है और शोध में सह-लेखक बन सकता है। 30 से अधिक अफ्रीकी देशों के सदस्यों ने दर्जनों भाषाओं के लिए अनुवाद मॉडल और डेटासेट बनाए हैं और शीर्ष सम्मेलनों में साथ मिलकर शोध छापे हैं।

  मसाखाने का काम करने का तरीका, अफ्रीकी समुदायों द्वारा अफ्रीकी भाषाओं के लिए साझा लेखकत्व वाला शोध, दुनिया भर की भाषा-बिरादरियों के लिए एक मिसाल बन गया है, और इसके कई सदस्य आगे चलकर विश्वविद्यालयों और लैब्स में भाषा-एआई के काम को दिशा दे रहे हैं।

  स्रोत: Masakhane

• 2025-06-10 वैश्विक

  स्वदेशी डेटा प्रशासन के लिए CARE सिद्धांतों को बढ़ती मान्यता

  अपने डेटा पर नियंत्रण और उससे लाभ पाने का समुदायों का अधिकार दुनिया भर में ज़ोर पकड़ रहा है।

  पूरा पढ़ें

  CARE सिद्धांत (Collective benefit, Authority to control, Responsibility, Ethics) ग्लोबल इंडिजिनस डेटा अलायंस ने तैयार किए, जो स्वदेशी शोधकर्ताओं और डेटा विशेषज्ञों का नेटवर्क है; इनमें स्टेफनी रूसो कैरोल (अहत्ना) और माउई हडसन (माओरी) शामिल हैं।

  ये खुले-डेटा आंदोलन की एक कमी का जवाब हैं: पुराने FAIR सिद्धांत कहते हैं कि डेटा खोजा और दोबारा इस्तेमाल किया जा सके, पर यह नहीं कहते कि उस पर राज किसका हो। CARE जोड़ता है कि अपने बारे में, अपनी जमीन और अपनी भाषाओं के डेटा पर नियंत्रण स्वदेशी समुदायों का होना चाहिए, और उसके उपयोग का लाभ भी उन्हीं तक पहुँचना चाहिए।

  कई देशों के विश्वविद्यालय, अभिलेखागार और फंडिंग संस्थाएँ अब अपनी डेटा नीतियों में CARE का हवाला देती हैं, और यह इस बहस की अहम कसौटी है कि भाषा की रिकॉर्डिंग कौन जुटा सकता है और उनसे एआई कौन बना सकता है। अपनी आवाज़ सौंपने वाले हर समुदाय के लिए यह एक काम की जाँच-सूची है।

  स्रोत: Global Indigenous Data Alliance

• 2024-07-01 वैश्विक

  मोज़िला कॉमन वॉइस (Common Voice): एक सार्वजनिक आवाज़-डेटासेट जिसमें कोई भी अपनी भाषा जोड़ सकता है

  दुनिया भर के वालंटियर वाक्य पढ़कर 100 से अधिक भाषाओं की आवाज़ों का खुला डेटासेट (dataset) बना रहे हैं, ताकि स्पीच तकनीक सिर्फ बड़ी भाषाओं तक सीमित न रहे।

  पूरा पढ़ें

  कॉमन वॉइस (Common Voice) 2017 में मोज़िला ने शुरू किया, वही गैर-लाभकारी संस्था जो फायरफॉक्स ब्राउज़र बनाती है। वजह यह थी कि आवाज़ के डेटासेट कुछ बड़ी कंपनियों में बंद थे और गिनी-चुनी बड़ी भाषाओं तक सीमित थे।

  तरीका सरल है: वालंटियर वेबसाइट पर वाक्य पढ़ते हैं, और दूसरे वालंटियर सुनकर पक्का करते हैं कि रिकॉर्डिंग सही है। सब कुछ सार्वजनिक अधिकार (public domain) में जारी होता है, ताकि विद्यार्थी से लेकर स्टार्टअप तक कोई भी इससे स्पीच टूल बना सके।

  समुदायों ने इससे अपनी भाषाओं को नक्शे पर रखा है: उदाहरण के लिए, रवांडा के किन्यारवांडा बोलने वालों ने संग्रह के सबसे बड़े आवाज़-डेटासेटों में से एक बनाया, जिससे स्थानीय वॉइस असिस्टेंट चले। यह चलता-फिरता सबूत है कि आम बोलने वाले खुद स्पीच-एआई का कच्चा माल बना सकते हैं।

  स्रोत: Mozilla Foundation

• 2023-09-05 अफ़्रीका

  डीप लर्निंग इंडाबा (Deep Learning Indaba): अफ्रीकी मशीन लर्निंग समुदाय को मजबूत बनाना

  यह वार्षिक आयोजन अफ्रीकी शोधकर्ताओं का समुदाय खड़ा कर रहा है, ताकि अफ्रीका में मशीन लर्निंग (machine learning) की दिशा अफ्रीकी लोग खुद तय करें। दर्जनों देशों में इसके स्थानीय आयोजन होते हैं।

  पूरा पढ़ें

  डीप लर्निंग इंडाबा 2017 में अफ्रीकी शोधकर्ताओं ने शुरू किया, जिनमें शाकिर मोहम्मद, उलरिच पाकेट और वुकोसी मारिवाते शामिल थे। उन्होंने गिनकर देखा कि दुनिया के मुख्य मशीन लर्निंग सम्मेलनों में अफ्रीकी लेखक कितने कम हैं, और इसे भीतर से बदलने की ठानी।

  ‘इंडाबा’ इसिज़ुलु शब्द है, जिसका अर्थ है जरूरी मामलों पर विचार के लिए जुटी सभा। यह वार्षिक आयोजन अलग-अलग अफ्रीकी देशों में घूमता है, और इसके साथ IndabaX नाम के छोटे स्थानीय आयोजन दर्जनों देशों में फैले हैं; मेंटरशिप और अफ्रीकी शोध के पुरस्कार भी इसका हिस्सा हैं।

  यह समुदाय हजारों शोधकर्ताओं और इंजीनियरों तक बढ़ चुका है, और इसके पुराने प्रतिभागी अब दुनिया भर के विश्वविद्यालयों, स्टार्टअपों और एआई लैब्स में काम करते हैं। यह इस सवाल का दीर्घकालिक जवाब है कि अफ्रीका के लिए एआई कौन बनाएगा: खुद अफ्रीकी।

  स्रोत: Deep Learning Indaba

• 2023-08-01 भारत

  कारया (Karya): गाँवों के लोग भाषा-डेटा बनाकर उचित मजदूरी कमा रहे हैं

  यह गैर-लाभकारी प्लेटफॉर्म भारत के ग्रामीण कामगारों को उनकी अपनी भाषाओं में आवाज़ और टेक्स्ट रिकॉर्ड करने के लिए बाजार से कहीं बेहतर भुगतान करता है, और डेटा दोबारा बिकने पर उन्हें मालिकाना हक और रॉयल्टी (royalty) भी देता है।

  पूरा पढ़ें

  कारया (Karya) माइक्रोसॉफ्ट रिसर्च इंडिया के शोध से निकली और 2021 में गैर-लाभकारी बनी; इसके सह-संस्थापक मनु चोपड़ा दिल्ली में पले-बढ़े और स्टैनफोर्ड में पढ़े कंप्यूटर वैज्ञानिक हैं। विचार यह है कि एआई के लिए डेटा-काम शोषण की नहीं, सम्मानजनक मजदूरी दे सकता है।

  ग्रामीण कामगार, जिनमें बड़ी संख्या महिलाओं की है, अपने फोन पर अपनी भाषाओं में आवाज़ रिकॉर्ड करते हैं और टेक्स्ट लिखते हैं। कारया ऐसे काम के सामान्य बाजार-रेट से कई गुना भुगतान करती है, और खास बात यह है कि डेटा में कामगारों की हिस्सेदारी रहती है: डेटासेट दोबारा बिकने पर रॉयल्टी बनाने वालों तक लौटती है।

  भारतीय भाषाओं का इसका स्पीच-डेटा अब बड़ी एआई परियोजनाओं में इस्तेमाल होता है, और चोपड़ा TIME पत्रिका की एआई के प्रभावशाली लोगों की पहली सूची में शामिल हुए। कारया को अक्सर इस बात के सबूत के रूप में गिना जाता है कि एआई की सप्लाई-चेन को कम मजदूरी पर चलाना जरूरी नहीं।

  स्रोत: Karya

• 2023-07-07 ऑस्ट्रेलिया

  ऑस्ट्रेलिया: रोबोडेट (Robodebt) योजना ने गैरकानूनी स्वचालित वसूली नोटिस भेजे

  आय का अपने-आप औसत निकालने वाले सिस्टम ने लाखों कल्याण-लाभार्थियों को गलत बताया कि उन पर कर्ज है; रॉयल कमीशन ने इस योजना को गैरकानूनी पाया और इसकी भारी मानवीय कीमत दर्ज की।

  पूरा पढ़ें

  रोबोडेट ऑस्ट्रेलिया की कल्याण एजेंसी सेंटरलिंक की 2015 से 2019 तक चली स्वचालित वसूली योजना का नाम था। इसने इंसानी जाँच की जगह एक सीधा-सा हिसाब रखा: व्यक्ति की सालाना आय को पखवाड़ों में बराबर बाँट दो, और कोई भी अंतर दिखे तो उसे धोखा मान लो।

  इस तरीके से बनाए गए लगभग 4,70,000 कर्ज कानूनी रूप से अमान्य थे, और सबूत का बोझ लाभार्थियों पर डाल दिया गया; बहुतों ने वह पैसा चुकाया जो उन पर कभी बकाया था ही नहीं। परिवारों ने गवाही दी कि झूठे कर्ज के तनाव का रिश्ता अपनों के टूटने और आत्महत्याओं से था।

  एक सामूहिक मुकदमे से करीब 1.8 अरब ऑस्ट्रेलियाई डॉलर की वापसी और समझौता हुआ, और पूर्व न्यायाधीश कैथरीन होम्स की अगुवाई वाले रॉयल कमीशन ने योजना को गैरकानूनी पाकर अधिकारियों को जाँच के लिए भेजा। रोबोडेट अब दुनिया भर में कल्याण के फैसलों को मशीन के हवाले करने के खिलाफ चेतावनी की तरह पढ़ाया जाता है।

  स्रोत: Royal Commission into the Robodebt Scheme

• 2023-05-25 भारत

  AI4Bharat: भारतीय भाषाओं के लिए खुले मॉडल और डेटासेट

  आईआईटी मद्रास का यह शोध केंद्र 22 भारतीय भाषाओं के लिए खुले स्पीच और अनुवाद मॉडल तथा डेटासेट जारी करता है, जिनमें देश भर के भाषा बोलने वालों का योगदान शामिल है।

  पूरा पढ़ें

  AI4Bharat आईआईटी मद्रास का शोध केंद्र है, जिसकी अगुवाई प्रोफेसर मितेश खापरा और प्रत्यूष कुमार करते हैं और जिसे नंदन नीलेकणि की परोपकारी मदद मिली है। इसका मिशन है: भारत की 22 अनुसूचित भाषाओं के लिए खुला एआई ढांचा।

  टीमों ने देश भर के जिलों में जाकर किसानों, दुकानदारों और गृहिणियों की रोजमर्रा की बोली रिकॉर्ड की है, ताकि मॉडल स्टूडियो की नहीं, असली आवाजें और बोलियाँ सुनें। केंद्र अपने मॉडल और डेटासेट, जैसे IndicTrans अनुवाद शृंखला, खुले में जारी करता है।

  इसके सिस्टम भाषिणी जैसी सार्वजनिक परियोजनाओं में काम करते हैं, और इसके डेटासेट भारतीय-भाषा एआई बनाने वालों के लिए मानक ईंटें बन गए हैं। यह दिखाता है कि मारवाड़ जैसी भाषा-भूमियों की नुमाइंदगी के लिए क्या चाहिए: सोच-समझकर, फंड के साथ, जमीनी स्तर पर डेटा जुटाना।

  स्रोत: AI4Bharat, IIT Madras

• 2023-01-18 अफ़्रीका

  केन्या: ChatGPT के लिए जहरीली सामग्री छाँटने वालों को 2 डॉलर प्रति घंटे से भी कम

  टाइम (TIME) की जांच में सामने आया कि केन्याई कामगारों को हिंसक और अपमानजनक टेक्स्ट पढ़कर लेबल करने के लिए 2 डॉलर प्रति घंटे से भी कम दिया गया, ताकि ChatGPT ऐसी सामग्री बनाने से बच सके। कई कामगारों पर इसका गहरा मानसिक असर पड़ा।

  पूरा पढ़ें

  ChatGPT की शालीनता के पीछे इंसानों का छँटाई-काम है। TIME के पत्रकार बिली पेरिगो ने खुलासा किया कि OpenAI ने नैरोबी में दफ्तर वाली आउटसोर्सिंग कंपनी Sama से करार किया था, जिसके तहत केन्याई कामगार बेहद हिंसक और अपमानजनक टेक्स्ट को लेबल करते थे, ताकि एक सेफ्टी फिल्टर उसे रोकना सीख सके।

  भूमिका और प्रदर्शन के हिसाब से करीब 1.32 से 2 डॉलर प्रति घंटे पाने वाले ये कामगार रोज घंटों विचलित करने वाली सामग्री पढ़ते थे। मोफाट ओकिन्यी समेत कई ने बाद में स्थायी मानसिक क्षति और बिखरते पारिवारिक जीवन की बात कही; काउंसलिंग की मदद नाकाफी बताई गई।

  खबर के बाद करार समय से पहले खत्म हुआ, कामगारों ने नैरोबी में कंटेंट मॉडरेटरों की यूनियन बनाने में हाथ बँटाया, और केन्या की संसद में याचिकाएँ दायर हुईं। इस मामले ने एआई के पीछे छिपी इंसानी मेहनत को, और यह कि वह दुनिया के किस कोने में कराई जाती है, हमेशा के लिए सार्वजनिक बहस में ला दिया।

  स्रोत: TIME

• 2021-10-25 यूरोप

  नीदरलैंड: चाइल्डकेयर भत्ते के एल्गोरिदम ने हजारों परिवार बर्बाद किए

  डच कर विभाग के एल्गोरिदम ने दोहरी नागरिकता वाले लोगों को धोखाधड़ी का खतरा मान लिया; हजारों परिवारों से भत्ते गलत तरीके से वापस वसूले गए और इस कांड के चलते सरकार को इस्तीफा देना पड़ा।

  पूरा पढ़ें

  नीदरलैंड में कर विभाग चाइल्डकेयर भत्ते के आवेदनों में धोखाधड़ी खोजने के लिए एक रिस्क-स्कोरिंग सिस्टम चलाता था। दूसरी नागरिकता होना ही जोखिम का संकेत मान लिया गया, जिससे मोरक्को, तुर्की, सूरीनाम आदि मूल के परिवार कहीं ज्यादा बार निशाने पर आए।

  हजारों माता-पिता झूठे तौर पर धोखेबाज करार दिए गए और उन्हें पूरा भत्ता, अक्सर हजारों यूरो, बिना किसी व्याख्या या कारगर अपील के लौटाने का हुक्म मिला। परिवारों के घर और रिश्ते टूटे, और एक हजार से अधिक बच्चों को संरक्षण-गृहों में रखना पड़ा।

  इस कांड ने जनवरी 2021 में प्रधानमंत्री मार्क रुट्टे की पूरी कैबिनेट से इस्तीफा करा दिया। एमनेस्टी इंटरनेशनल की रिपोर्ट ‘ज़ेनोफोबिक मशीन्स’ ने इस भेदभाव को दर्ज किया, डेटा प्राधिकरण ने कर विभाग पर जुर्माना लगाया, और जवाब में नीदरलैंड ने सरकारी एल्गोरिदमों का सार्वजनिक रजिस्टर बनाया।

  स्रोत: Amnesty International

• 2021-03-01 न्यूज़ीलैंड

  ते हिकु मीडिया (Te Hiku Media): माओरी समुदायों ने अपना स्पीच रिकग्निशन खुद बनाया

  न्यूज़ीलैंड के एक माओरी मीडिया संगठन ने समुदाय की सहमति से ते रेओ माओरी (te reo Maori) भाषा की हजारों घंटे की रिकॉर्डिंग जुटाई और अपना स्पीच रिकग्निशन (speech recognition) खुद बनाया। डेटा बड़ी टेक कंपनियों को देने के बजाय जनजातीय संरक्षण में ही रखा गया।

  पूरा पढ़ें

  ते हिकु मीडिया न्यूज़ीलैंड के सुदूर उत्तर का एक छोटा माओरी रेडियो स्टेशन है, जिसकी अगुवाई पीटर-लुकास जोन्स और इंजीनियर केओनी माहेलोना करते हैं। इसके दशकों पुराने प्रसारण-अभिलेखों में धाराप्रवाह ते रेओ माओरी बोलने वालों की बेहतरीन रिकॉर्डिंग सुरक्षित हैं।

  2018 में इसने एक अभियान चलाया जिसमें समुदाय के लोगों ने वाक्य पढ़े और चंद दिनों में सैकड़ों घंटे का लेबल्ड स्पीच-डेटा जमा हो गया। इसी से इसके अपने इंजीनियरों ने ते रेओ माओरी के लिए स्पीच रिकग्निशन बनाया, जिसकी सटीकता व्यावसायिक टूल्स के बराबर पहुँची।

  संगठन ने अपना काम काइतिआकितांगा (guardianship यानी संरक्षकता) लाइसेंस के तहत जारी किया, जिससे नियंत्रण माओरी समुदाय के पास रहता है, और उसने बड़ी टेक कंपनियों को डेटा देने से सार्वजनिक रूप से मना किया है। यह एआई में स्वदेशी डेटा-संप्रभुता की सबसे ज्यादा उद्धृत मिसाल बन गया है।

  स्रोत: Te Hiku Media

• 2020-08-17 यूके

  यूके: एक एल्गोरिदम ने विद्यार्थियों के परीक्षा परिणाम घटा दिए

  2020 में परीक्षाएँ रद्द होने पर एक एल्गोरिदम ने स्कूलों के पुराने नतीजों के आधार पर ग्रेड तय किए, जिसने शिक्षकों के लगभग 40 प्रतिशत आकलन घटा दिए और गरीब स्कूलों के विद्यार्थियों को सबसे ज्यादा नुकसान पहुँचाया। विरोध के बाद इसे रद्द करना पड़ा।

  पूरा पढ़ें

  2020 में कोविड-19 से स्कूली परीक्षाएँ रद्द हुईं तो इंग्लैंड के परीक्षा नियामक Ofqual ने तय किया कि ग्रेड एक फॉर्मूले से बनेंगे, जो शिक्षकों की रैंकिंग को हर स्कूल के पिछले सालों के नतीजों से जोड़ता था।

  नतीजों के दिन शिक्षकों के लगभग 40 प्रतिशत ए-लेवल आकलन घटा दिए गए। फॉर्मूला स्कूल के इतिहास पर टिका था, इसलिए बड़े और कम साधन वाले सरकारी स्कूलों के होनहार विद्यार्थी सबसे ज्यादा गिराए गए, जबकि निजी स्कूलों की छोटी कक्षाओं को फायदा हुआ; विद्यार्थियों ने शिक्षा विभाग के बाहर ‘एल्गोरिदम’ के खिलाफ प्रदर्शन किया।

  कुछ ही दिनों में सरकार ने नतीजे रद्द कर शिक्षक-ग्रेड बहाल किए, और Ofqual की प्रमुख ने पद छोड़ा। यह प्रकरण इसकी जानी-मानी मिसाल बन गया कि देखने में तटस्थ फॉर्मूला बीते कल की गैर-बराबरी को लोगों के भविष्य में कैसे जमा देता है।

  स्रोत: BBC News

• 2020-06-24 अमेरिका

  डेट्रॉइट: फेस रिकग्निशन की गलत पहचान से एक निर्दोष व्यक्ति की गिरफ्तारी

  फेस रिकग्निशन (face recognition) सॉफ्टवेयर ने रॉबर्ट विलियम्स के ड्राइविंग लाइसेंस की फोटो को दुकान के सीसीटीवी से गलत मिला दिया और उन्हें 30 घंटे हिरासत में रखा गया। ऐसी कई और गलत गिरफ्तारियाँ सामने आई हैं, जिनमें ज्यादातर अश्वेत पुरुष थे।

  पूरा पढ़ें

  डेट्रॉइट के पास रहने वाले दफ्तर-कर्मी रॉबर्ट विलियम्स को जनवरी 2020 में उनके घर के सामने, पत्नी और छोटी बेटियों के देखते, उस घड़ी-दुकान चोरी के लिए गिरफ्तार किया गया जिससे उनका कोई लेना-देना नहीं था।

  डेट्रॉइट पुलिस ने धुंधली सीसीटीवी तस्वीर फेस रिकग्निशन सॉफ्टवेयर में डाली थी, जिसने उनका पुराना ड्राइविंग लाइसेंस फोटो ‘मैच’ बताकर लौटाया। जाँचकर्ताओं ने मशीन के सुझाव को सच मान लिया; मामला बिखरने से पहले विलियम्स करीब 30 घंटे हिरासत में रहे।

  ACLU के साथ उन्होंने शहर पर मुकदमा किया, और 2024 के समझौते ने डेट्रॉइट पुलिस को सिर्फ फेस-रिकग्निशन मैच के आधार पर गिरफ्तारी करने से रोक दिया। तब से अमेरिका भर में ऐसी कई और गलत गिरफ्तारियाँ दर्ज हुई हैं, जिनमें लगभग सभी अश्वेत स्त्री-पुरुष थे।

  स्रोत: The New York Times

• 2018-02-01 अमेरिका

  जेंडर शेड्स (Gender Shades): चेहरे की पहचान गहरे रंग की महिलाओं पर सबसे ज्यादा फेल

  एमआईटी के शोधकर्ताओं ने व्यावसायिक फेस एनालिसिस सिस्टम जांचे और पाया कि गहरे रंग की महिलाओं के लिए गलती की दर 35 प्रतिशत तक थी, जबकि हल्के रंग के पुरुषों के लिए 1 प्रतिशत से भी कम।

  पूरा पढ़ें

  एमआईटी मीडिया लैब की घानाई-अमेरिकी शोधकर्ता जॉय बुओलामविनी, जिन्होंने अल्गोरिदमिक जस्टिस लीग की स्थापना की, ने टिमनिट गेब्रू के साथ मिलकर एक सीधा सवाल पूछा: क्या व्यावसायिक फेस-एनालिसिस सबके लिए बराबर काम करता है?

  उन्होंने तीन अफ्रीकी और तीन यूरोपीय देशों की संसदों के चेहरों का संतुलित टेस्ट-सेट बनाया और उस पर IBM, Microsoft और Face++ के सिस्टम चलाए। गहरे रंग की महिलाओं के लिए गलती की दर लगभग 35 प्रतिशत तक पहुँची; हल्के रंग के पुरुषों के लिए 1 प्रतिशत से कम रही।

  कंपनियाँ अपने उत्पाद सुधारने दौड़ीं, IBM बाद में फेस रिकग्निशन से पूरी तरह हट गई, और इस अध्ययन ने तकनीक पर सीमाएँ चाहने वाले कानून-निर्माताओं के हाथ मजबूत किए। जेंडर शेड्स ने ‘यह किन चेहरों पर ट्रेन हुआ था?’ को ऐसा सवाल बना दिया जो अब सिर्फ किताबी नहीं लगता।

  स्रोत: MIT Media Lab

• 2016-05-23 अमेरिका

  मशीन बायस (Machine Bias): अमेरिकी रिस्क स्कोर ने अश्वेत अभियुक्तों को भावी अपराधी बताया

  प्रोपब्लिका (ProPublica) की जांच में पाया गया कि अमेरिकी अदालतों में इस्तेमाल होने वाला रिस्क-स्कोरिंग टूल अश्वेत अभियुक्तों को गोरों के मुकाबले लगभग दोगुनी दर से गलत तरीके से हाई रिस्क बताता था।

  पूरा पढ़ें

  2016 में प्रोपब्लिका के पत्रकारों ने, जूलिया एंगविन की अगुवाई में, फ्लोरिडा के ब्रोवार्ड काउंटी में गिरफ्तार 7,000 से अधिक लोगों को COMPAS नाम के व्यावसायिक टूल से मिले रिस्क-स्कोर हासिल किए, और फिर जाँचा कि अगले दो वर्षों में असल में दोबारा अपराध किसने किया।

  स्कोर अलग-अलग समूहों के लिए उलटी दिशाओं में गलत थे: दोबारा अपराध न करने वाले अश्वेत अभियुक्तों को हाई रिस्क ठहराए जाने की आशंका लगभग दोगुनी थी, जबकि दोबारा अपराध करने वाले गोरे अभियुक्त ज्यादा बार लो रिस्क बताए गए। जमानत और सजा तय करते समय जज ये स्कोर देखते थे।

  टूल बनाने वाली कंपनी ने विश्लेषण को चुनौती दी, और गणित में ‘निष्पक्ष’ का मतलब क्या हो, इस बहस ने अल्गोरिदमिक फेयरनेस का पूरा शोध-क्षेत्र खड़ा कर दिया। किसी स्कोर के भीतर छिपे भेदभाव के लिए ‘मशीन बायस’ आज भी संदर्भ-मामला है।

  स्रोत: ProPublica