मेटा ने भारत में इंस्टाग्राम के सुझाव सिस्टम में महत्वपूर्ण परिवर्तन किए हैं ताकि यौन रूप से उत्तेजक और हिंसक सामग्री के प्रसार को नियंत्रित किया जा सके। यह निर्णय केंद्र सरकार द्वारा कंपनी को अपनी अनुशंसा प्रणालियों की समीक्षा करने और सार्वजनिक व्यवस्था को प्रभावित करने वाली सामग्री पर नियंत्रण कसने के निर्देश देने के एक माह पश्चात लिया गया है। कंपनी ने स्पष्ट किया है कि इन परिवर्तनों का उद्देश्य अवांछित सामग्री को न्यून करना और उपयोगकर्ताओं के अनुभव को अधिक सुरक्षित बनाना है।
भारत सरकार के निर्देश और मेटा की प्रतिक्रिया
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने पिछले माह मेटा को एक परामर्श जारी किया था जिसमें अनुशंसा प्रणालियों के माध्यम से व्यापक पहुंच प्राप्त करने वाले पोस्टों की पहचान करने और उन्हें चिह्नित करने की प्रक्रिया को तीव्र करने के लिए कहा गया था। मंत्रालय ने विशेष रूप से उन सामग्रियों पर चिंता व्यक्त की थी जिनसे सार्वजनिक भ्रम, हिंसा या सार्वजनिक अव्यवस्था उत्पन्न होने की संभावना रहती है। मेटा ने अब इन निर्देशों के उत्तर में अपनी सुरक्षा प्रणालियों को सुदृढ़ करने की घोषणा की है।
मेटा द्वारा जारी वक्तव्य के अनुसार, भारत में इंस्टाग्राम की अनुशंसा प्रणालियों में किए गए ये परिवर्तन उन खातों से आने वाली सामग्री पर लागू होते हैं जिन्हें उपयोगकर्ता अनुसरण नहीं करते हैं। कंपनी का लक्ष्य उन सामग्रियों की मात्रा को सीमित करना है जो यौन रूप से उत्तेजक या हिंसक प्रकृति की होती हैं। यह कदम पूर्ण प्रतिबंध के स्थान पर अनुशंसा के तरीकों में परिवर्तन करने पर केंद्रित है ताकि उपयोगकर्ताओं को उनकी रुचि के अनुरूप सुरक्षित सामग्री प्राप्त हो सके।
कृत्रिम बुद्धिमत्ता और नई तकनीक का उपयोग
मेटा ने अपनी प्रणालियों को उन्नत बनाने के लिए अधिक सक्षम कृत्रिम बुद्धिमत्ता (एआई) मॉडलों का उपयोग करना आरंभ किया है। ये मॉडल सामग्री का प्रत्यक्ष मूल्यांकन करते हैं और किसी उपयोगकर्ता द्वारा रिपोर्ट किए जाने या उसे छिपाने की प्रतीक्षा नहीं करते हैं। इस तकनीक की सहायता से कंपनी उन सामग्रियों को पहले ही पकड़ने में सक्षम हो रही है जिन्हें लोग देखना पसंद नहीं करते हैं।
ये भी पढ़ें: फेसबुक और इंस्टाग्राम भी एक तरह का नशा, मोहन भागवत ने किया आगाह
कंपनी ने विशेष रूप से भारतीय बाजार के लिए अपनी प्रणालियों में सुधार किया है ताकि स्थानीय उपयोगकर्ताओं की प्रतिक्रियाओं के आधार पर अवांछित सामग्री को हटाया जा सके। मेटा का दावा है कि इन नवीन एआई मॉडलों के कारण वे भारत में ऐसी सामग्री को सक्रिय रूप से न्यून करने में सफल रहे हैं जो उनकी अनुशंसा दिशानिर्देशों के बाहर आती है। इसके परिणामस्वरूप, उपयोगकर्ताओं द्वारा अनुशंसित सामग्री के विरुद्ध की जाने वाली शिकायतों में उल्लेखनीय कमी आई है।
सार्वजनिक व्यवस्था और सुरक्षा पर विशेष ध्यान
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय द्वारा भेजे गए परामर्श में उल्लेख किया गया था कि वर्तमान सार्वजनिक घटनाओं और विकास से संबंधित कुछ सामग्री मेटा के प्लेटफॉर्मों पर प्रमुखता से प्रदर्शित और अनुशंसित की जा रही है। इसमें वीडियो, चित्र, वक्तव्य और स्थिर ग्राफिक्स सम्मिलित हैं जो सार्वजनिक व्यवस्था और कानून व्यवस्था की स्थितियों से संबंधित होते हैं। मंत्रालय के अनुसार, जब ऐसी सामग्री को पर्याप्त संदर्भ के बिना प्रस्तुत किया जाता है या अनुशंसा तंत्र के माध्यम से अत्यधिक प्रसारित किया जाता है, तो यह सार्वजनिक भ्रम और सामाजिक शांति में व्यवधान का कारण बन सकती है।
केंद्र सरकार ने मेटा से अपनी अनुशंसा और सामग्री रैंकिंग प्रणालियों की सूक्ष्म जांच करने का आग्रह किया था। इसका उद्देश्य यह सुनिश्चित करना था कि संभावित रूप से भ्रामक, हेरफेर की गई या संदर्भ से बाहर की सामग्री को उपयोगकर्ताओं को बार-बार अनुशंसित न किया जाए। मेटा ने इन चिंताओं को स्वीकार करते हुए अपनी प्रणालियों में आवश्यक सुधार किए हैं ताकि संवेदनशील स्थितियों में सूचनाओं का प्रसार नियंत्रित रहे।
उपयोगकर्ता अनुभव और रिपोर्टिंग में सुधार
मेटा के अनुसार, पिछले एक वर्ष के दौरान उपयोगकर्ताओं से प्राप्त फीडबैक के आधार पर सुरक्षा उपायों को निरंतर सुदृढ़ किया गया है। इन परिवर्तनों के प्रभाव को दर्शाने के लिए कंपनी ने कुछ आंकड़े भी साझा किए हैं। आंकड़ों के अनुसार, अनुशंसित सामग्री के विरुद्ध रिपोर्ट करने की दर में भारी गिरावट देखी गई है।
| श्रेणी | रिपोर्टिंग की आवृत्ति |
|---|---|
| एक वर्ष पूर्व | सामान्य स्तर |
| वर्तमान स्थिति | एक वर्ष पूर्व की तुलना में लगभग आधी |
यह सुधार दर्शाता है कि नई प्रणालियां अवांछित सामग्री को पहचानने और उसे रोकने में अधिक प्रभावी सिद्ध हो रही हैं। मेटा ने कहा है कि वे अपनी प्रणालियों में सुधार करना जारी रखेंगे ताकि भारतीय उपयोगकर्ताओं को एक सुरक्षित और सकारात्मक डिजिटल वातावरण प्रदान किया जा सके। भविष्य में, कंपनी का ध्यान इस बात पर रहेगा कि सूचनाओं का प्रसार पारदर्शी हो और किसी भी प्रकार की भ्रामक सामग्री को कृत्रिम रूप से बढ़ावा न मिले।
स्रोत: Hindustan Times



















