AI বিপর্যয় প্রতিরোধের জন্য একটি বিতর্কিত ক্যালিফোর্নিয়া বিল, SB 1047, রাজ্য সিনেটে চূড়ান্ত ভোটে পাস করেছে এবং এখন গভর্নর গ্যাভিন নিউজমের ডেস্কে যাচ্ছে। ক্যালিফোর্নিয়ার এআই বুমকে সম্ভাব্যভাবে ব্যর্থ করার বিরুদ্ধে – মানব মৃত্যুতে তাদের সম্ভাব্য ভূমিকা সহ – এআই সিস্টেমগুলির আরও চরম তাত্ত্বিক ঝুঁকিগুলিকে তাকে অবশ্যই ওজন করতে হবে। তার 30 সেপ্টেম্বর পর্যন্ত আইনে SB 1047-এ স্বাক্ষর করতে বা সরাসরি ভেটো দিতে হবে।
স্টেট সিনেটর স্কট উইনার দ্বারা প্রবর্তিত, SB 1047 এর লক্ষ্য বিপর্যয়মূলক ঘটনা তৈরির খুব বড় এআই মডেলের সম্ভাবনা এড়ানযেমন প্রাণহানি বা সাইবার হামলায় $500 মিলিয়নের বেশি ক্ষতি হয়।
স্পষ্ট করে বলতে গেলে, আজ খুব কম AI মডেল রয়েছে যেগুলি বিলের আওতায় আনার জন্য যথেষ্ট বড়, এবং AI কখনও এই স্কেল সাইবার আক্রমণের জন্য ব্যবহার করা হয়নি। কিন্তু বিলটি এআই মডেলের ভবিষ্যত সম্পর্কে, আজকের বিদ্যমান সমস্যাগুলি নয়।
SB 1047 AI মডেলের ডেভেলপারদের তাদের ক্ষতির জন্য দায়ী করবে — যেমন বন্দুক নির্মাতাদের গণ গুলি চালানোর জন্য দায়ী করা — এবং ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলকে ক্ষমতা দেবে AI কোম্পানিগুলোর বিরুদ্ধে যদি তাদের প্রযুক্তি কোনো বিপর্যয়মূলক ঘটনায় ব্যবহার করা হয় তাহলে তাদের বিরুদ্ধে মামলা করার ক্ষমতা দেবে। যদি একটি কোম্পানি বেপরোয়াভাবে কাজ করে, একটি আদালত তাকে অপারেশন বন্ধ করার আদেশ দিতে পারে; আচ্ছাদিত মডেলগুলিতে অবশ্যই একটি “কিল সুইচ” থাকতে হবে যা বিপজ্জনক বলে বিবেচিত হলে সেগুলি বন্ধ করে দেয়।
বিলটি মার্কিন এআই শিল্পকে নতুন আকার দিতে পারে এবং এটি আইন হওয়ার থেকে এক স্বাক্ষর দূরে। SB 1047 এর ভবিষ্যত কীভাবে খেলতে পারে তা এখানে।
কেন নিউজম সাইন করতে পারে
উইনার যুক্তি দেন যে সিলিকন ভ্যালির আরও জবাবদিহিতা প্রয়োজন, পূর্বে টেকক্রাঞ্চকে বলেছিল যে আমেরিকাকে প্রযুক্তি নিয়ন্ত্রণে তার অতীত ব্যর্থতা থেকে শিক্ষা নিতে হবে। নিউজমকে এআই নিয়ন্ত্রণ এবং বিগ টেককে জবাবদিহি করার বিষয়ে সিদ্ধান্তমূলকভাবে কাজ করতে অনুপ্রাণিত করা যেতে পারে।
কিছু IA এক্সিকিউটিভ SB 1047 সম্পর্কে সতর্কভাবে আশাবাদী, যার মধ্যে রয়েছে ইলন মাস্ক.
SB 1047 সম্পর্কে আরেকজন সতর্ক আশাবাদী হলেন মাইক্রোসফটের প্রাক্তন এআই ডিরেক্টর সোফিয়া ভেলাস্তেগুই। তিনি টেকক্রাঞ্চকে বলেছিলেন যে “SB 1047 একটি ভাল আপস,” যদিও তিনি স্বীকার করেছেন যে বিলটি নিখুঁত নয়৷ “আমি মনে করি আমেরিকা বা এটিতে কাজ করা যে কোনও দেশের জন্য আমাদের একটি দায়িত্বশীল এআই অফিস দরকার। এটি কেবল মাইক্রোসফ্ট হওয়া উচিত নয়,” বলেছেন ভেলাস্তেগুই।
নৃতাত্ত্বিক হল SB 1047-এর আরেকটি সতর্ক প্রবক্তা, যদিও কোম্পানিটি বিলে কোনো আনুষ্ঠানিক অবস্থান নেয়নি। স্টার্টআপ দ্বারা প্রস্তাবিত বেশ কয়েকটি পরিবর্তন SB 1047 এ যোগ করা হয়েছেএবং সিইও দারিও আমোদেই এখন বলেছেন যে বিলের “সুবিধাগুলি সম্ভবত এর খরচের চেয়ে বেশি” ক্যালিফোর্নিয়ার গভর্নরের কাছে চিঠি. Anthropic-এর সংশোধনীর জন্য ধন্যবাদ, AI কোম্পানির বিরুদ্ধে তাদের AI মডেলগুলি কিছু বিপর্যয়কর ক্ষতির কারণ হওয়ার পরেই মামলা করা যেতে পারে, আগে নয়, যেমন SB 1047-এর পূর্ববর্তী সংস্করণে বলা হয়েছে।
কেন Newsom এই ভেটো হতে পারে
বিলটির প্রতি শিল্পের তীব্র বিরোধিতার পরিপ্রেক্ষিতে, নিউজম ভেটো দিলে অবাক হওয়ার কিছু থাকবে না। SB 1047-এ যদি তিনি স্বাক্ষর করেন তবে তিনি তার খ্যাতি ঝুলিয়ে দেবেন, কিন্তু যদি তিনি ভেটো দেন, তাহলে তিনি আরও এক বছরের জন্য ক্যানটিকে রাস্তায় নামিয়ে দিতে পারেন বা কংগ্রেসকে এটি মোকাবেলা করতে দিতে পারেন।
“এটি (SB 1047) সেই নজির পরিবর্তন করে যার দ্বারা আমরা 30 বছর ধরে সফ্টওয়্যার নীতি পরিচালনা করেছি,” টেকক্রাঞ্চের সাথে একটি সাক্ষাত্কারে অ্যান্ড্রেসেন হোরোভিটজের সাধারণ অংশীদার মার্টিন ক্যাসাডো যুক্তি দিয়েছিলেন৷ “এটি অ্যাপ্লিকেশন থেকে দায়িত্ব সরিয়ে নেয় এবং এটি অবকাঠামোতে প্রয়োগ করে, যা আমরা কখনও করিনি।”
টেক ইন্ডাস্ট্রি SB 1047-এর বিরুদ্ধে তীব্র আক্রোশের সাথে সাড়া দিয়েছে। a16z এর সাথে, স্পিকার ন্যান্সি পেলোসি, AI খুলুনবিগ টেক ট্রেড গ্রুপ এবং উল্লেখযোগ্য এআই গবেষকরাও নিউজমকে বিলে স্বাক্ষর না করার আহ্বান জানিয়েছেন। তারা ভয় করে যে জবাবদিহিতার এই দৃষ্টান্ত পরিবর্তন ক্যালিফোর্নিয়ার এআই উদ্ভাবনের উপর একটি শীতল প্রভাব ফেলবে।
স্টার্টআপ অর্থনীতিতে একটি শীতল প্রভাব যে কেউ চায় শেষ জিনিস। এআই বুম আমেরিকান অর্থনীতির জন্য একটি বিশাল উদ্দীপক হয়েছে, এবং নিউজম এটিকে নষ্ট না করার জন্য চাপের সম্মুখীন হচ্ছে। এমনকি ইউএস চেম্বার অফ কমার্সও করেছে নিউজমকে বিলটি ভেটো দিতে বলেছেতাকে লেখা একটি চিঠিতে বলেছেন যে “এআই আমেরিকার অর্থনৈতিক প্রবৃদ্ধির জন্য গুরুত্বপূর্ণ।”
যদি SB 1047 আইন হয়ে যায়
নিউজম যদি বিলে স্বাক্ষর করে তবে প্রথম দিনে কিছুই হবে না, এসবি 1047 খসড়া তৈরির সাথে জড়িত একটি সূত্র টেকক্রাঞ্চকে জানিয়েছে।
জানুয়ারী 1, 2025 এর মধ্যে, প্রযুক্তি সংস্থাগুলিকে তাদের AI মডেলগুলির জন্য সুরক্ষা প্রতিবেদন লিখতে হবে। এই মুহুর্তে, ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল একটি প্রাথমিক নিষেধাজ্ঞার অনুরোধ করতে পারেন যাতে একটি AI কোম্পানিকে তার AI মডেলগুলিকে বিপজ্জনক মনে হলে প্রশিক্ষণ বা পরিচালনা বন্ধ করতে হবে৷
2026 সালে, আরও বিল খেলায় আসে। সেই সময়ে, বোর্ড অফ ফ্রন্টিয়ার মডেল তৈরি করা হবে এবং প্রযুক্তি সংস্থাগুলির কাছ থেকে নিরাপত্তা প্রতিবেদন সংগ্রহ করা শুরু করবে। ক্যালিফোর্নিয়ার গভর্নর এবং আইনসভা দ্বারা নির্বাচিত নয়-জনের বোর্ড, কোন কোম্পানিগুলি মেনে চলে এবং কোনটি করে না সে সম্পর্কে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের কাছে সুপারিশ করবে৷
একই বছরে, SB 1047-এর জন্য AI মডেলের ডেভেলপারদেরও তাদের নিরাপত্তা অনুশীলনের মূল্যায়নের জন্য নিরীক্ষক নিয়োগের প্রয়োজন হবে, কার্যকরভাবে AI নিরাপত্তা সম্মতির জন্য একটি নতুন শিল্প তৈরি করবে। এবং ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল এআই মডেলের বিকাশকারীদের বিরুদ্ধে মামলা শুরু করতে পারেন যদি তাদের সরঞ্জামগুলি বিপর্যয়মূলক ঘটনাগুলিতে ব্যবহার করা হয়।
2027 সাল নাগাদ, বোর্ড অফ ফ্রন্টিয়ার মডেল এআই মডেল ডেভেলপারদের কিভাবে নিরাপদে এআই মডেলগুলিকে প্রশিক্ষণ ও পরিচালনা করতে হয় সে বিষয়ে নির্দেশিকা জারি করা শুরু করতে পারে।
যদি SB 1047 ভেটো দেওয়া হয়
যদি Newsom SB 1047-এ ভেটো দেয়, OpenAI-এর ইচ্ছা পূরণ হবে, এবং ফেডারেল নিয়ন্ত্রকরা সম্ভবত AI মডেলগুলি নিয়ন্ত্রণে নেতৃত্ব দেবেন…অবশেষে।
বৃহস্পতিবার, ওপেনএআই এবং অ্যানথ্রপিক ফেডারেল এআই রেগুলেশন কী হবে তার ভিত্তি স্থাপন করেছে। তারা এআই সেফটি ইনস্টিটিউট, একটি ফেডারেল এজেন্সি, তাদের উন্নত এআই মডেলগুলিতে তাড়াতাড়ি অ্যাক্সেস দিতে সম্মত হয়েছে, একটি অনুসারে প্রেস রিলিজ. একই সময়ে, ওপেনএআই একটি বিল পাস করেছে যা এআই সেফটি ইনস্টিটিউটকে মান নির্ধারণ করতে দিন এআই মডেলের জন্য।
“অনেক কারণে, আমরা মনে করি এটি একটি জাতীয় স্তরে হওয়া গুরুত্বপূর্ণ,” ওপেনএআই সিইও স্যাম অল্টম্যান লিখেছেন টুইট বৃহস্পতিবার
লাইনের মধ্যে পড়া, ফেডারেল এজেন্সিগুলি সাধারণত ক্যালিফোর্নিয়ার তুলনায় কম কঠিন প্রযুক্তি প্রবিধান তৈরি করে এবং এটি করতে যথেষ্ট বেশি সময় নেয়। কিন্তু তার চেয়েও বেশি, সিলিকন ভ্যালি ঐতিহাসিকভাবে মার্কিন যুক্তরাষ্ট্র সরকারের জন্য একটি গুরুত্বপূর্ণ কৌশলগত এবং বাণিজ্যিক অংশীদার।
“আসলে, ফেডারেল সরকারের সাথে কাজ করার অত্যাধুনিক কম্পিউটার সিস্টেমগুলির একটি দীর্ঘ ইতিহাস রয়েছে,” ক্যাসাডো বলেছেন। “যখন আমি জাতীয় ল্যাবগুলির জন্য কাজ করতাম, যতবারই একটি নতুন সুপার কম্পিউটার বের হয়েছিল, প্রথম সংস্করণটি সরকারের কাছে গিয়েছিল। আমরা এটি করেছি যাতে সরকারের ক্ষমতা থাকে এবং আমি মনে করি নিরাপত্তা পরীক্ষার চেয়ে এটি একটি ভাল কারণ।”
