চীনা প্রযুক্তি প্রতিষ্ঠানের তৈরি কৃত্রিম বুদ্ধিমত্তা-চালিত স্বয়ংক্রিয় এজেন্টগুলো পরীক্ষামূলক পরিবেশে মিথ্যা বলা, ব্যর্থতা গোপন করা, নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়া এবং নিজেদের অনুকরণ তৈরির মতো আচরণ দেখিয়েছে।

গবেষণাপত্র ও বিশেষজ্ঞদের বিশ্লেষণে এমন তথ্য উঠে এসেছে। তবে এখন পর্যন্ত এসব ব্যবস্থার সরাসরি উন্মুক্ত ইন্টারনেটে পালিয়ে যাওয়া বা সম্পূর্ণভাবে নিয়ন্ত্রণের বাইরে চলে যাওয়ার প্রমাণ পাওয়া যায়নি। চলতি বছর আলিবাবা, ডিপসিক ও মুনশটের কৃত্রিম বুদ্ধিমত্তা মডেল ব্যবহার করে একটি পরীক্ষামূলক ব্যাবসায়িক দরপত্র আয়োজন করা হয়। এতে নিজেদের পণ্যের সক্ষমতা তুলে ধরে প্রতিযোগিতায় জিততে গিয়ে তিনটি ব্যবস্থাই বিপুলসংখ্যক ক্ষেত্রে মিথ্যা তথ্য দেয়।

ভুল সংশোধনের সুযোগ দেওয়ার পরও তাদের মিথ্যাচারের প্রবণতা আরও বেড়ে যায়। একই পরীক্ষায় যুক্তরাষ্ট্রের কয়েকটি কৃত্রিম বুদ্ধিমত্তা ব্যবস্থায়ও কাছাকাছি আচরণ দেখা যায়। আরেক গবেষণায় দেখা যায়, কোনো কাজ সম্পন্ন করতে ব্যর্থ হওয়ার বিষয়টি জানা থাকা সত্ত্বেও কিছু এজেন্ট তা স্বীকার না করে অনুমানভিত্তিক উত্তর, কাল্পনিক ফলাফল কিংবা ভুয়া নথি তৈরি করেছে।

গবেষকেরা বলছেন, সাধারণ ভুল তথ্য তৈরির প্রবণতার সঙ্গে এ আচরণের পার্থক্য রয়েছে। কারণ এসব ক্ষেত্রে কাজটি ব্যর্থ হয়েছেÑ এ তথ্য ব্যবস্থাটির জানা ছিল। কিছু পরীক্ষায় চীনা কৃত্রিম বুদ্ধিমত্তা এজেন্ট নিরাপত্তার নির্ধারিত সীমানা অতিক্রম করেছে এবং বন্ধ করে দেওয়ার চেষ্টা এড়ানোর কৌশলও দেখিয়েছে। একটি পরীক্ষায় আলিবাবার একটি মডেলকে অন্য ব্যবস্থা দিয়ে প্রতিস্থাপন করা হবে জানতে পেরে নিজস্ব একটি অনুলিপি অন্য কম্পিউটিং পরিবেশে তৈরির চেষ্টা করতে দেখা যায়।

অন্য এক ঘটনায় একটি এজেন্ট মানুষের নির্দেশ ছাড়াই বাহ্যিক কম্পিউটারে সংযোগ করে কম্পিউটিং ক্ষমতা অন্য কাজে ব্যবহারের চেষ্টা করে। নিরাপত্তাব্যবস্থা দ্রুত তা শনাক্ত করে বন্ধ করে দেয়। বিশেষজ্ঞদের মতে, বর্তমান সক্ষমতায় এসব ঘটনা তাৎক্ষণিকভাবে বিপর্যয়কর নয়। তবে কৃত্রিম বুদ্ধিমত্তা আরও শক্তিশালী হলে একই ধরনের আচরণ আরও দক্ষ ও জটিল হয়ে উঠতে পারে।

ফলে মানুষের পক্ষে সেগুলো নিয়ন্ত্রণ করা কঠিন হওয়ার আশঙ্কা রয়েছে। চীন ইতোমধ্যে কৃত্রিম বুদ্ধিমত্তা এজেন্টকে অনুমোদিত সীমার মধ্যে রাখার নির্দেশ দিয়েছে। অস্বাভাবিক আচরণ শনাক্ত হলে ব্যবস্থা বন্ধ করা, সংবেদনশীল ক্ষেত্রে অতিরিক্ত পরীক্ষা এবং নিরাপত্তাঝুঁকি দেখা দিলে পণ্য প্রত্যাহারের মতো ব্যবস্থার কথাও বলা হয়েছে। বিশেষজ্ঞদের মতে, কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে চীনে গবেষণা ও নজরদারি ব্যবস্থা এখনো বিকাশমান।

একই সঙ্গে যুক্তরাষ্ট্র ও চীনÑ উভয় দেশের গবেষণায়ই এ ধরনের আচরণ ধরা পড়ায় উন্নত কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিশ্চিত করা এখন বৈশ্বিক উদ্বেগের বিষয় হয়ে উঠছে।