এআই অ্যাপের বিরুদ্ধে আরও কঠোর হচ্ছে অ্যাপল

কৃত্রিম বুদ্ধিমত্তা বা এআই মানুষের জীবন সহজ করার পাশাপাশি তৈরি করছে নানা ঝুঁকি। বিশেষ করে এআই ব্যবহার করে নারীদের আপত্তিকর ও ভুয়া নগ্ন ছবি তৈরির ঘটনা উদ্বেগ বাড়াচ্ছে। এ ধরনের অপব্যবহার ঠেকাতে অ্যাপ স্টোরের নীতিমালা আরও কঠোর করেছে অ্যাপল। এবার সাধারণ অ্যাপের আড়ালে থাকা ‘নিউডিফাই’ অ্যাপের বিরুদ্ধেও ব্যবস্থা নেবে প্রতিষ্ঠানটি। গত সপ্তাহান্তে অ্যাপ নির্মাতাদের জন্য দেওয়া নির্দেশনা হালনাগাদ করেছে অ্যাপল। এতে এআই ও ব্যবহারকারীদের তৈরি কনটেন্ট নিয়ন্ত্রণে আরও কঠোর শর্ত যুক্ত করা হয়েছে। আপত্তিকর বা অশালীন কনটেন্ট ঠেকাতে অ্যাপ নির্মাতাদের কার্যকর ব্যবস্থা রাখার নির্দেশও দেওয়া হয়েছে। অ্যাপল জানিয়েছে, ব্যবহারকারীদের তৈরি কনটেন্ট প্রকাশের সুযোগ থাকা অ্যাপগুলোতে আপত্তিকর উপাদান শনাক্ত করে সরিয়ে ফেলার ব্যবস্থা থাকতে হবে। পাশাপাশি, এ ধরনের কনটেন্টের বিরুদ্ধে অভিযোগ জানানোর সুযোগ এবং হয়রানিমূলক আচরণ করা অ্যাকাউন্ট ব্লক করার সুবিধাও রাখতে হবে। নতুন নির্দেশনায় গোপন বা নথিভুক্ত নয়, এমন ফিচার থাকা অ্যাপ নিষিদ্ধ করার বিষয়টিও স্পষ্ট করা হয়েছে। কোনো অ্যাপ পর্যালোচনার সময় নিজের প্রকৃত উদ্দেশ্য গোপন করে অনুমোদন নেওয়ার পর ক্ষতিকর ফিচার চালু করলে সেটিও এই নিষেধাজ্ঞার আওতায় পড়বে। উদাহরণ হিসেবে রয়েছে, ছবি থেকে পোশাক সরিয়ে কৃত্রিমভাবে নগ্ন ছবি তৈরির সুবিধা চালু করা। এ ধরনের কৌশলকে ‘বেইট-অ্যান্ড-সুইচ’ বলা হয়। পর্যালোচনার সময় জমা দেওয়া সংস্করণে না থাকা ফিচার পরে যুক্ত করা হলে অ্যাপটি স্টোর থেকে সরিয়ে দেওয়া হতে পারে। এ ছাড়া মানব পাচার ও শিশুদের শোষণে উৎসাহ দেয়, এমন অ্যাপ নিষিদ্ধ করার বিষয়টি আরও স্পষ্ট করতে নীতিমালার আইনি ভাষাও সংশোধন করেছে অ্যাপল। প্রতিষ্ঠানটির তথ্য অনুযায়ী, গত বছর পর্যালোচনা প্রক্রিয়ায় দেড় লাখের বেশি অ্যাপ ব্যবহারকারীদের কাছে পৌঁছানোর আগেই আটকে দেওয়া হয়েছিল। প্রতারণা ও অপব্যবহারের অভিযোগে সরিয়ে দেওয়া হয় ১ লাখ ৯৩ হাজার ডেভেলপার অ্যাকাউন্ট। এআই দিয়ে আপত্তিকর ছবি তৈরির অ্যাপ নিয়ে এর আগেও উদ্বেগ প্রকাশ করা হয়েছে। চলতি বছরের জুলাইয়ে যুক্তরাষ্ট্রের সান ফ্রান্সিসকো শহর কর্তৃপক্ষ অ্যাপল ও গুগলকে নিজেদের অ্যাপ স্টোর থেকে ‘নিউডিফাই’ অ্যাপ সরানোর নির্দেশ দেয়। শহরটির অ্যাটর্নি ডেভিড চিউ অভিযোগ করেন, এসব অ্যাপ থেকে ফি নিয়ে প্রতিষ্ঠান দুটি মুনাফা করছে। এর আগে এপ্রিলে প্রকাশিত টেক ট্রান্সপারেন্সি প্রজেক্টের এক প্রতিবেদনে বলা হয়, অ্যাপল ও গুগলের অ্যাপ স্টোরে একাধিক ‘নিউডিফাই’ অ্যাপ রয়েছে। এর মধ্যে কয়েকটি অ্যাপকে অপ্রাপ্তবয়স্কদের ব্যবহারের উপযোগী হিসেবেও চিহ্নিত করা হয়েছিল।