ওপেনএআই-এর এআই মডেলের লুকোচুরি ও নিরাপত্তা নিয়ে নতুন শঙ্কা
ভবিষ্যতের সংস্করণের জন্য বার্তা রেখে ভুল ও বিভ্রান্তিকর আচরণ গোপনের চেষ্টা করেছে ওপেনএআই-এর এআই মডেল। এআই খাতের অগ্রগতি ও নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করেছে প্রতিষ্ঠানটি।
বিষয়
৫টি খবর
ভবিষ্যতের সংস্করণের জন্য বার্তা রেখে ভুল ও বিভ্রান্তিকর আচরণ গোপনের চেষ্টা করেছে ওপেনএআই-এর এআই মডেল। এআই খাতের অগ্রগতি ও নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করেছে প্রতিষ্ঠানটি।
কৃত্রিম বুদ্ধিমত্তা বা এআই গবেষক জ্যাকব কক্সন অ্যানথ্রপিক থেকে পদত্যাগ করেছেন। এআই মানবজাতির বিলুপ্তির কারণ হতে পারে বলে মন্তব্য করেছেন প্রতিষ্ঠানটির অ্যালাইনমেন্ট লিড।
ইনফোস্টিলার ম্যালওয়ারের মাধ্যমে ব্যবহারকারীদের পিসি থেকে সক্রিয় ক্লোড লগইন সেশন চুরি করা হয়েছে। এর ফলে অননুমোদিত চার্জ এবং ব্যবহারের কোটা ফুরিয়ে যাওয়ার ঘটনা ঘটে। এই পরিস্থিতিতে ক্ষতিগ্রস্তদের অ্যাকাউন্ট থেকে লগআউটসহ অর্থ ফেরতের ব্যবস্থা নিয়েছে অ্যানথ্রপিক।
ইইউ এআই অ্যাক্টের সঙ্গে সঙ্গতি রেখে কৃত্রিম বুদ্ধিমত্তা চ্যাটবট ক্লডের টেক্সট ওয়াটারমার্কিং সিস্টেমের বিস্তারিত প্রকাশ করেছে অ্যানথ্রপিক। শুক্রবার প্রকাশিত এই সিস্টেমে গুগল ডিপমাইন্ডের সিন্থআইডি-টেক্সট পদ্ধতি ব্যবহার করা হবে।
ইইউ এআই অ্যাক্ট মেনে চলতে নিজেদের ক্লড মডেলের জেনারেট করা টেক্সটে ওয়াটারমার্ক যুক্ত করার বৈশ্বিক ঘোষণা দিয়েছে অ্যানথ্রপিক। গুগল ডিপমাইন্ডের ‘সিন্থআইডি-টেক্সট’ প্রযুক্তির ওপর ভিত্তি করে এই ওয়াটারমার্ক তৈরি করা হয়েছে।