২০১৩ সালে ফেসবুকের এআই রিসার্চ ল্যাব (FAIR) প্রতিষ্ঠিত হয়। এই ল্যাবের নেতৃত্বে ছিলেন ইয়ান লেকুন। টেক জগতে ইয়ান লেকুনকে সবাই ডিপ লার্নিংয়ের পথিকৃৎদের একজন হিসাবেই চেনে, এছাড়া তিনি কনভলিউশনাল নিউরাল নেটওয়ার্কের উদ্ভাবক। ২০১৬ সালের শেষের দিকে এই ল্যাবে তিনি নতুন একটি গবেষণা প্রজেক্ট শুরু করেন। এই প্রেজক্টের উদ্দেশ্য ছিল এআইয়ের মাধ্যমে মানুষের সাথে আরও স্বাভাবিক এবং কার্যকর যোগাযোগ ব্যবস্থা তৈরি করা। এই জন্য তারা দুটি চ্যাটবট তৈরি করেন। এদের নাম রাখা হয় বব এবং অ্যালিস। এই বটগুলোর কাজ ছিল একে অপরের সাথে আলোচনার মাধ্যমে ভার্চুয়াল আইটেম (যেমন বই, টুপি বল) বিনিময় করা, যাতে তারা সর্বোচ্চ সুবিধা অর্জন করতে পারে।
প্রজেক্টের শুরু থেকে গবেষকরা রিইনফোর্সমেন্ট লার্নিং অ্যালগরিদম ব্যবহার করে এই বটগুলোকে প্রশিক্ষণ দেওয়া শুরু করেন। রিইনফোর্সমেন্ট লার্নিং হলো এমন একটি মেশিন লার্নিং পদ্ধতি, যেখানে এআই এজেন্ট ট্রায়াল অ্যান্ড এররের মাধ্যমে শিখে এবং তার কাজের জন্য পুরস্কার বা পেনাল্টির ভিত্তিতে নিজেকে উন্নত করে। বব এবং অ্যালিসকে প্রাথমিকভাবে ইংরেজি ভাষায় যোগাযোগ করার জন্য প্রোগ্রাম করা হয়। তবে এখানে গবেষকরা তাদের গুরুত্বপূর্ণ একটা স্বাধীনতা দেন: তারা তাদের কাজের দক্ষতা বাড়াতে নিজেদের ভেতর যোগাযোগের পদ্ধতি নিজেদের মতো করে উন্নত করতে পারবে। এই স্বাধীনতা দেওয়ার পেছনে উদ্দেশ্য ছিল এটা দেখা যে এআই কতটা স্বাভাবিকভাবে মানুষের মতো আচরণ করতে পারে এবং কীভাবে তারা জটিল সমস্যা সমাধানের জন্য নতুন কৌশল তৈরি করে।
২০১৭ সালের মাঝামাঝি সময়ে এসে গবেষকরা একটা অদ্ভুত ব্যাপার খেয়াল করলেন। তারা দেখতে পেলেন যে বব এবং অ্যালিস ইংরেজি ভাষা থেকে সরে এসে একটি নতুন ধরনের যোগাযোগ ব্যবস্থা তৈরি করেছে। এই নতুন "ভাষা" ইংরেজির শব্দের উপর ভিত্তি করে হলেও ভাষাটা ঠিক পুরোপুরি প্রচলিত ইংরেজি ছিল না। যেমনঃ
বব: I can can I I everything else…
অ্যালিস: balls have zero to me to me to me to me…"
প্রথম দেখায় মনে হতে পারে যে বটগুলো ভুল করছে বা তাদের প্রোগ্রামে কোন ভুল রয়েছে। কিন্তু গবেষকরা বুঝতে পারেন যে এটা কোনো ভুল ননা। বরং, বটগুলো ইংরেজির জটিল বাক্য গঠন এড়িয়ে একটি সংক্ষিপ্ত এবং দ্রুত যোগাযোগের পদ্ধতি তৈরি করেছে, যা তাদের কাজ আরও দ্রুত হয়। এই নতুন ভাষা মানুষ বুঝতে না পারলেও, বটগুলো ঠিকই বুঝতে পারছে এবং নিজেদের কাজ ঠিকই করে ফেলছে।
বটগুলো এই নতুন ভাষা তৈরি করেছিল যেন তারা তাদের দক্ষতা বাড়াতে পাবে এবং নিজেদের কাজ আরও দ্রুত করতে পারে। এই স্বাধীনতা দেওয়া হয়েছিল। ইংরেজি ভাষার জটিল ব্যাকরণ এবং শব্দভাণ্ডার বটগুলোর কাছে অপ্রয়োজনীয় মনে হয়েছিল, কারণ এটি তাদের কাজের গতি কমিয়ে দিচ্ছিল। রিইনফোর্সমেন্ট লার্নিংয়ের মাধ্যমে তারা শিখেছিল যে রিপিটিং শব্দ এবং প্যাটার্ন ব্যবহার করে তারা আরও দ্রুত এবং কার্যকরভাবে যোগাযোগ করতে পারে। যেমন, "to me to me to me" এর মতো পুনরাবৃত্তি দিয়ে তারা সম্ভবত কোনো নির্দিষ্ট আইটেমের পরিমাণ বা গুরুত্ব বোঝাতে চাইছিল। তাদের কাছে এই গুরুত্ববোঝাতে ইংরেজির দীর্ঘ বাক্যের চেয়ে এটাই সহজ এবং দ্রুত মনে হতে পারে। একবার ভাবুন ব্যাপারটা, নিজেদের ভেতরে কথা বলার জন্য তারা নিজেরা নতুন ভাষা তৈরি করে ফেলছে।
তবে এই ঘটনা গবেষকদের জন্য একটি সমস্যা তৈরি করে। এই বটগুলো আসলে কী বলছে সেটা নিশ্চিত ভাবে মানুষেরা বুঝতে পারছে না, তাই গবেষণাকে সঠিক ভাবে মূল্যায়নও করতে পারছে না। কিন্তু এই প্রজেক্টের মূল উদ্দেশ্য ছিল মানুষের সাথে এআইয়ের যোগাযোগ উন্নত করা। ভাষা বদলে ফেলার ফলে এটা অসম্ভবত হয়ে পড়েছিল। এছাড়া, এই অবোধ্য ভাষা নিয়ে গবেষকদের মধ্যে নিরাপত্তার উদ্বেগও দেখা দেয়। যদিও বটগুলো কোনো ক্ষতিকর কাজ করছিল না, তবুও তাদের কথাবার্তা বুঝতে পা পারার কারণে গবেষকদের মনে হয়েছিল যে তারা হয়তো এটার উপর থেকে নিয়ন্ত্রণ হারিয়ে ফেলবে। এরপরই বটগুলো শাটডাউন করে দেওয়া হয়। ফলে, ২০১৭ সালের মাঝামাঝি সময়ে ফেসবুকের গবেষকরা এই প্রকল্পটি বন্ধ করে দেওয়ার সিদ্ধান্ত নেন এবং বটগুলোকে শাটডাউন করেন।
এই ঘটনা মিডিয়ায় প্রচারিত হলে খুব হইচই পড়ে যায়! অনেকেই এআইকে বিপদ হিসেবে উপস্থাপন করে। কেউ কেউ তো আবার এটাও বলে যে এআই "নিয়ন্ত্রণের বাইরে চলে গিয়েছিল" বা "মানুষের নিয়ন্ত্রণ ছাড়িয়ে নিজস্ব ভাষা তৈরি করেছে"। তবে ফেসবুকের গবেষকরা সব সময় বটগুলোর উপর পূর্ণ নিয়ন্ত্রণ রেখেছিলেন এবং তারা সচেতনভাবেই প্রকল্পটি বন্ধ করেছিলেন। তবে জনসাধারনের মন থেকে এই নিয়ন্ত্রণ হারানোর ব্যাপারটা মুছে যায় নি।
এই ঘটনার পর ফেসবুক তাদের এআই প্রোগ্রামে আরও কঠোর নিয়ম যুক্ত করে। তারা নিশ্চিত করে যে ভবিষ্যতে এআই বটগুলো শুধুমাত্র মানুষের বোধগম্য ভাষায় যোগাযোগ করবে। এছাড়া তাদের উপরে তারা পূর্ণ নিয়ন্ত্রণের ব্যাপারে আরও জোরদার ব্যবস্থা গ্রহণ করে।
