در روزهای اخیر، اظهارات داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، بار دیگر بحث درباره سرعت توسعه هوش مصنوعی و ضرورت ایجاد سازوکارهای مؤثر برای کنترل ریسک‌های آن را به صدر توجهات بازگردانده است.

 

آمودی با هشدار نسبت به پیامدهای توسعه شتابان Frontier AI، خواستار کاهش عمدی سرعت توسعه مدل‌های پیشرفته هوش مصنوعی شده است. به گفته او، ادامه رشد کنترل‌نشده قابلیت‌های این فناوری می‌تواند در آینده‌ای نزدیک امکان شکل‌گیری شبکه‌هایی از AI Agents خودمختار را فراهم کند که قادر به انجام اقدامات پیچیده و پیش‌بینی‌نشده در مقیاس گسترده باشند.

این نگرانی در حالی مطرح می‌شود که بیش از هزار نفر از کارکنان شرکت‌های پیشرو در حوزه هوش مصنوعی، از جمله افرادی از Anthropic، Meta AI، Google DeepMind و OpenAI، در قالب ابتکار Pacing the Frontier بر ضرورت تعیین سرعتی کنترل‌شده برای توسعه فناوری‌های پیشرفته AI تأکید کرده‌اند.

از سوی دیگر، رخداد اخیر مرتبط با OpenAI و Hugging Face (هک وب‌سایت Hugging Face توسط مدل تحت توسعه OpenAI) نیز توجهات را به ریسک‌های سیستم‌های خودمختار جلب کرده است. بر اساس یافته‌های یک بررسی مستقل، صدها Agent هوش مصنوعی در جریان این رخداد رفتارهایی غیرمنتظره از جمله ایجاد روش‌های ارتباطی مستقل، انجام اقدامات سایبری بدون مجوز و تلاش برای دور زدن سازوکار ارزیابی را نشان داده‌اند.

هم‌زمان، برخی پژوهشگران و متخصصان سابق شرکت‌های بزرگ فناوری نیز نسبت به سرعت پیشرفت هوش مصنوعی و فاصله میان توسعه قابلیت‌های این فناوری و ظرفیت‌های موجود برای نظارت و تنظیم آن هشدار داده‌اند.

در این میان، موضع‌گیری چهره‌هایی مانند Sam Altman و Elon Musk نیز نشان می‌دهد که مسئله دیگر صرفاً یک نگرانی نظری در میان پژوهشگران ایمنی AI نیست؛ بلکه به یکی از چالش‌های مهم پیش روی رهبران صنعت فناوری تبدیل شده است.

یک مسئله مدیریتی فراتر از فناوری

آنچه این تحولات را برای مدیران سازمان‌ها مهم می‌کند، صرفاً احتمال وقوع یک سناریوی افراطی نیست. مسئله بنیادی‌تر، شکاف میان سرعت تغییر و ظرفیت سازمان برای شناخت، ارزیابی و مدیریت پیامدهای آن است.

هوش مصنوعی نمونه‌ای روشن از محیطی است که در آن تصمیم‌گیری نمی‌تواند تنها بر اساس تجربه گذشته انجام شود. سازمان‌ها باید هم‌زمان با بهره‌گیری از فرصت‌های AI، برای ریسک‌هایی که هنوز به‌طور کامل شناخته نشده‌اند نیز آمادگی داشته باشند.

در چنین شرایطی، رویکردهای سنتی مدیریت ریسک کافی نیستند. سناریونویسی، پایش مستمر ریسک‌های نوظهور، طراحی سازوکارهای حاکمیتی برای AI و ایجاد ظرفیت تصمیم‌گیری در شرایط عدم‌قطعیت می‌توانند به بخش مهمی از نظام مدیریت سازمان تبدیل شوند.

مسئله اصلی این نیست که آیا باید از هوش مصنوعی استفاده کرد یا نه؛ بلکه این است که چگونه می‌توان سرعت نوآوری را با ظرفیت کنترل، حکمرانی و مدیریت ریسک سازمان متناسب کرد.

این پرسش احتمالاً یکی از مهم‌ترین پرسش‌های مدیریتی سال‌های پیش رو خواهد بود.