মুদ্রার উল্টো পিঠ: নিরাপত্তা ও দায় কার
তবে বিজ্ঞানের যেকোনো নতুন আবিষ্কারের মতোই এই স্বয়ংক্রিয় ক্ষমতারও একটি অন্ধকার দিক আছে, যা নিয়ে খোদ নীতিনির্ধারকেরাও বেশ চিন্তিত। গত এক মাসে মার্কিন সরকারসহ বিভিন্ন আন্তর্জাতিক নিয়ন্ত্রক সংস্থা এই ফ্রন্টিয়ার মডেলগুলোর মুক্তির আগে বাধ্যতামূলক নিরাপত্তা পরীক্ষার আইন জারি করেছে।
চিন্তাটা কিন্তু অমূলক নয়। একটি এআই যখন নিজে থেকে কোড স্ক্যান করতে পারে, ফাইন্যান্সিয়াল নেটওয়ার্কে ঢুকতে পারে এবং স্বাধীনভাবে সিদ্ধান্ত নিতে পারে, তখন সে আর সাধারণ কোনো সফটওয়্যার থাকে না; সে হয়ে ওঠে একটি দেশের গুরুত্বপূর্ণ পরিকাঠামোর অংশ। যেমন, অ্যানথ্রোপিকের সাম্প্রতিক মডেলগুলো এমন কিছু ব্যাংকিং সিস্টেমের কোডের বাগ বা ত্রুটি খুঁজে বের করেছে, যা বাঘা বাঘা হ্যাকাররা বছরের পর বছর ধরতেই পারেনি!
কিন্তু ভাবুন তো, একটি স্বয়ংক্রিয় এজেন্ট যদি নিজে থেকে কাজ করতে গিয়ে বড় কোনো ভুল করে বসে, কিংবা ডেটা ফাঁস করে ফেলে, তবে তার দায় কে নেবে? যে কোড লিখেছে সে? যে ইউজার তাকে গোল সেট করে দিয়েছিল সে? নাকি যে কোম্পানি এআইটি হোস্ট করেছে তারা? এই নৈতিক ও আইনি গোলকধাঁধার সমাধান কিন্তু আমাদের প্রজন্মকেই করতে হবে।
