अश्लील और हिंसक सामग्री पर लगेगी लगाम, मेटा ने बदले कंटेंट दिखाने के नियम

अश्लील और हिंसक सामग्री पर लगेगी लगाम, मेटा ने बदले कंटेंट दिखाने के नियम

सोशल मीडिया मंच इंस्टाग्राम पर अब यूजर्स को अश्लील, हिंसक और उकसाने वाली सामग्री पहले के मुकाबले कम दिखाई देगी। भारत सरकार की ओर से कंटेंट की पहचान, रैंकिंग और सिफारिश करने की व्यवस्था की समीक्षा का सुझाव दिए जाने के करीब एक महीने बाद मेटा ने अपने कंटेंट एल्गोरिदम में बदलाव किए हैं। कंपनी ने कहा है कि इन बदलावों का उद्देश्य यूजर्स को सुझाई जाने वाली सामग्री की गुणवत्ता और सुरक्षा को बेहतर बनाना है। नई व्यवस्था के तहत खास तौर पर उन अकाउंट्स की पोस्ट पर निगरानी बढ़ाई गई है, जिन्हें यूजर फॉलो नहीं करते हैं।

मेटा के अनुसार, नए बदलाव इंस्टाग्राम की रील्स और मुख्य फीड दोनों पर लागू होंगे। इसका मतलब है कि यूजर्स को ऐसे अकाउंट्स की सामग्री सुझाते समय अधिक सावधानी बरती जाएगी, जिन्हें उन्होंने स्वयं फॉलो नहीं किया है। हिंसा, अश्लीलता या उकसाने वाली प्रकृति की पोस्ट को सिफारिशों में कम जगह मिलेगी। कंपनी ने स्पष्ट किया है कि जो पोस्ट इंस्टाग्राम के सामुदायिक दिशा-निर्देशों का उल्लंघन नहीं करतीं, वे प्लेटफॉर्म पर बनी रह सकती हैं। हालांकि, ऐसी सामग्री को दूसरे यूजर्स तक पहुंचाने के लिए रिकमेंडेशन सिस्टम में प्राथमिकता नहीं दी जाएगी।

यह बदलाव इसलिए महत्वपूर्ण है क्योंकि इंस्टाग्राम पर यूजर्स को केवल उन्हीं अकाउंट्स की पोस्ट नहीं दिखाई देतीं, जिन्हें वे फॉलो करते हैं। प्लेटफॉर्म का एल्गोरिदम उनकी रुचि, गतिविधियों और देखने के तरीके के आधार पर दूसरे अकाउंट्स की रील्स और पोस्ट भी सुझाता है। ऐसे में कंटेंट की सिफारिश करने वाली व्यवस्था यह तय करने में बड़ी भूमिका निभाती है कि यूजर्स के सामने किस तरह की सामग्री पहुंचेगी।

एआई की मदद से पोस्ट की होगी ज्यादा सख्त जांच

मेटा ने बताया कि इंस्टाग्राम पर पोस्ट और वीडियो को यूजर्स के सामने सुझाने से पहले उनका आकलन करने के लिए कृत्रिम बुद्धिमत्ता (एआई) आधारित मॉडल का इस्तेमाल किया जाता है। इन मॉडलों को और बेहतर बनाया गया है, ताकि अश्लील, हिंसक और उकसाने वाली सामग्री की पहचान अधिक प्रभावी ढंग से की जा सके।

कंपनी के अनुसार, यूजर्स से मिलने वाली प्रतिक्रियाओं और शिकायतों के आधार पर पिछले एक वर्ष में उसने अपनी डिफॉल्ट सुरक्षा व्यवस्था को मजबूत किया है। इसका उद्देश्य ऐसी सामग्री को पहचानना और उसकी सिफारिश सीमित करना है, जो प्लेटफॉर्म के नियमों का उल्लंघन भले ही न करती हो, लेकिन उसे व्यापक स्तर पर दिखाना उचित न हो।

मेटा ने अपने ब्लॉग में दावा किया कि एक साल पहले की तुलना में अब यूजर्स सुझाई गई सामग्री की रिपोर्ट लगभग आधी बार कर रहे हैं। कंपनी ने हालांकि इस दावे से जुड़े विस्तृत आंकड़े या रिपोर्टिंग में आई कमी का सटीक प्रतिशत साझा नहीं किया है। इसके बावजूद कंपनी का कहना है कि कंटेंट की पहचान और सिफारिश से जुड़े सुरक्षा उपायों में लगातार सुधार किया जा रहा है।

भारत के संदर्भ में मेटा ने अपने सिस्टम को विशेष रूप से बेहतर बनाने की बात कही है, ताकि अश्लील सामग्री की पहचान अधिक सटीक तरीके से हो सके। हालांकि, कंपनी ने यह स्पष्ट नहीं किया कि इसके लिए कौन-से तकनीकी बदलाव किए गए हैं और अलग-अलग प्रकार की सामग्री को कम दिखाने के लिए एल्गोरिदम में किस तरह की प्राथमिकताएं निर्धारित की गई हैं।

आईटी मंत्रालय ने 10 अक्टूबर को जारी की थी एडवाइजरी

मेटा के कंटेंट सिस्टम में यह बदलाव ऐसे समय में सामने आए हैं, जब भारत सरकार ने सोशल मीडिया मंचों पर दिखाई जाने वाली सामग्री को लेकर चिंता जताई थी। सूचना प्रौद्योगिकी मंत्रालय ने 10 अक्टूबर को जारी अपनी एडवाइजरी में मेटा से कहा था कि वह समीक्षा करे कि उसके प्लेटफॉर्म पर पोस्ट को किस तरह रैंक किया जाता है और यूजर्स को कौन-सी सामग्री सुझाई जाती है।

मंत्रालय ने आशंका जताई थी कि सोशल मीडिया प्लेटफॉर्म के एल्गोरिदम भ्रामक, छेड़छाड़ किए गए या संदर्भ से हटाकर प्रस्तुत किए गए कंटेंट को जरूरत से ज्यादा महत्व दे सकते हैं। इस तरह की सामग्री तेजी से अधिक लोगों तक पहुंच सकती है और इससे गलत सूचनाओं के प्रसार की आशंका बढ़ जाती है।

सरकार ने विशेष रूप से ऐसी पोस्ट पर निगरानी मजबूत करने की जरूरत बताई थी, जिनसे हिंसा भड़क सकती है या सार्वजनिक व्यवस्था प्रभावित हो सकती है। मंत्रालय का जोर इस बात पर था कि सोशल मीडिया कंपनियां केवल सामग्री हटाने तक सीमित न रहें, बल्कि यह भी देखें कि उनके रिकमेंडेशन सिस्टम के माध्यम से किस तरह की पोस्ट को अधिक लोगों तक पहुंचाया जा रहा है।

यूजर्स को सीमित नैरेटिव तक न रखा जाए

सूचना प्रौद्योगिकी मंत्रालय ने मेटा को यह सुनिश्चित करने का सुझाव भी दिया था कि यूजर्स को केवल कुछ सीमित तरह के विचार या नैरेटिव ही न दिखाए जाएं। सोशल मीडिया मंचों पर एल्गोरिदम अक्सर यूजर्स की पसंद और पिछली गतिविधियों के आधार पर समान प्रकृति की सामग्री बार-बार सुझाते हैं। इससे कई बार यूजर के सामने अलग-अलग विचारों और दृष्टिकोणों वाली सामग्री पहुंचने की संभावना कम हो सकती है।

मंत्रालय ने कंपनी से कहा था कि वह इस दिशा में उठाए गए कदमों की जानकारी भी दे। सरकार की चिंता थी कि कंटेंट की रैंकिंग और सिफारिश की प्रक्रिया पारदर्शी होनी चाहिए और इससे किसी खास तरह की सामग्री को अनुचित बढ़ावा नहीं मिलना चाहिए।

एल्गोरिदम यह तय करने में महत्वपूर्ण भूमिका निभाते हैं कि किसी यूजर की स्क्रीन पर कौन-सी पोस्ट सबसे पहले आएगी, कौन-सी रील बार-बार सुझाई जाएगी और कौन-सी सामग्री अधिक लोगों तक पहुंचेगी। इसलिए सरकार ने इस व्यवस्था की समीक्षा को जरूरी माना था।

मेटा ने सरकारी सुझावों से सीधे नहीं जोड़ा बदलाव

मेटा ने इंस्टाग्राम में किए गए इन बदलावों को भारत सरकार की एडवाइजरी से सीधे तौर पर नहीं जोड़ा है। कंपनी ने यह भी स्पष्ट नहीं किया कि क्या भारत से संबंधित घटनाओं और मुद्दों पर प्रकाशित पोस्ट को इंस्टाग्राम तथा उसके दूसरे प्लेटफॉर्म पर सुझाने के तरीके में कोई विशेष बदलाव किया गया है।

इसलिए फिलहाल यह स्पष्ट नहीं है कि नए नियमों का असर भारत से जुड़ी राजनीतिक, सामाजिक या अन्य संवेदनशील घटनाओं की सामग्री की सिफारिश पर किस तरह पड़ेगा। कंपनी ने मुख्य रूप से अश्लील, हिंसक और उकसाने वाली सामग्री की पहचान तथा उसकी सिफारिश कम करने की बात कही है।

मेटा की नई व्यवस्था का प्रभाव इस बात पर निर्भर करेगा कि एआई मॉडल और अन्य तकनीकी प्रणालियां ऐसी सामग्री की पहचान कितनी सटीकता से कर पाती हैं। साथ ही यह भी महत्वपूर्ण होगा कि नियमों का पालन करने वाली सामग्री और वास्तव में नुकसान पहुंचाने वाली सामग्री के बीच अंतर किस तरह किया जाता है।

प्लेटफॉर्म पर बने रहने और सुझाए जाने में होगा अंतर

नई व्यवस्था में एक महत्वपूर्ण बात यह है कि किसी पोस्ट का इंस्टाग्राम पर उपलब्ध रहना और उसका दूसरे यूजर्स को सुझाया जाना अलग-अलग प्रक्रिया होगी। यदि कोई पोस्ट सामुदायिक दिशा-निर्देशों का उल्लंघन नहीं करती, तो वह प्लेटफॉर्म पर बनी रह सकती है। लेकिन इसका अर्थ यह नहीं होगा कि उसे रील्स या मुख्य फीड के माध्यम से अधिक लोगों तक पहुंचाने की सिफारिश भी की जाएगी।

इससे कंटेंट की पहुंच नियंत्रित करने का एक अतिरिक्त तरीका उपलब्ध होगा। यानी किसी सामग्री को हटाए बिना भी उसकी सिफारिश सीमित की जा सकती है। यह व्यवस्था उन पोस्ट के मामले में खास तौर पर महत्वपूर्ण हो सकती है, जिनमें हिंसा या अश्लीलता जैसे तत्व मौजूद हों, लेकिन वे प्लेटफॉर्म के नियमों के तहत सीधे हटाने योग्य न हों।

कुल मिलाकर, इंस्टाग्राम के कंटेंट एल्गोरिदम में किए गए बदलाव से यूजर्स को दिखाई देने वाली सुझाई गई सामग्री पर अधिक नियंत्रण रखने की कोशिश की जा रही है। हालांकि, मेटा ने अभी इन बदलावों के विस्तृत तकनीकी मानक और भारत में इनके प्रभाव से जुड़े आंकड़े साझा नहीं किए हैं। आने वाले समय में यह देखना महत्वपूर्ण होगा कि नई व्यवस्था से अश्लील और हिंसक सामग्री की पहुंच कितनी घटती है और यूजर्स को विविध तथा संतुलित सामग्री उपलब्ध कराने के सरकारी सुझावों पर कितना अमल होता है।