موج جدید کناره‌گیری متخصصان ایمنی از استارتاپ‌های هوش مصنوعی
موج کناره‌گیری متخصصان ایمنی از استارتاپ‌های پیشرو در حوزه هوش مصنوعی به مرحله‌ای تازه وارد شده است. دیوید رابینسون، که مسئولیت تدوین گزارش‌های رسمی ایمنی برای مدل‌های برجسته در اوپن‌ای‌آی را بر عهده داشت، تصمیم به کناره‌گیری از سمت خود گرفت تا با نوشتن مقاله‌ای تحلیلی، فرهنگ شتاب‌زده‌ای که در سیلیکون ولی حاکم است را به چالش بکشد.
رابینسون در یادداشتی که برای نشریه آتلانتیک منتشر کرده، ساختار رفتاری غول‌های فناوری را «از اساس معیوب» توصیف کرده و تأکید کرده است که تنها اعمال چند قانون موقت بر شیوه آموزش مدل‌ها برای کنترل خطرات کافی نیست. او به این نکته اشاره کرده که شرکت‌های مستقر در کالیفرنیا سال‌هاست که با خوش‌بینی بیش از حد، اعتماد به نفس کاذب و شتاب مداوم به جلو پیش می‌روند و پیامدهای ناخواسته سیستم‌های قدرتمند را نادیده گرفته‌اند.
به گفته رابینسون، سازندگان مدل‌های زبانی بزرگ باید رویکرد کنونی را کنار بگذارند و به استانداردهای آزموده‌شده در صنایع پرخطر روی آورند.
رابینسون بر این باور است که آزمایشگاه‌های پیشرفته فناوری باید به شیوه‌ای مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌های پرترافیک سازمان‌دهی شوند؛ مراکزی که با تعریف لایه‌های متعدد و افزونه‌های حفاظتی و همچنین برنامه‌ریزی‌های دقیق و زمان‌بر فعالیت می‌کنند تا خطای اجتناب‌ناپذیر انسانی به بحرانی غیرقابل جبران منجر نشود.
استعفای رابینسون بخشی از یک جریان گسترده‌تر میان متخصصان ارزیابی ریسک به شمار می‌رود. پیش از او، پژوهشگران نام‌آشنای دیگری نیز به دلیل نگرانی از پیامدهای اجتماعی و ایمنی، از همکاری با بازیگران اصلی این حوزه کناره‌گیری کرده‌اند. خروج مداوم مهندسان نشان‌دهنده افزایش شکاف میان اهداف تجاری توسعه‌دهندگان و الزامات بنیادی ایمنی است؛ مسئله‌ای که نیاز به نظارت‌های مستقل بر روند آموزش مدل‌های نسل بعد را بیش از پیش ضروری می‌سازد.
سوالات متداول
دیوید رابینسون چه سمتی در اوپن‌ای‌آی داشت؟
دیوید رابینسون مسئول تدوین گزارش‌های رسمی ایمنی برای مدل‌های شاخص در اوپن‌ای‌آی بود.
چرا دیوید رابینسون از سمت خود کناره‌گیری کرد؟
او به دلیل چالش کشیدن فرهنگ شتاب‌زده سیلیکون ولی و نوشتن مقاله‌ای تحلیلی از سمت خود کناره‌گیری کرد.
رابینسون چه انتقادی به غول‌های فناوری داشت؟
او ساختار رفتاری غول‌های فناوری را «از اساس معیوب» خواند و تأکید کرد که قوانین موقت برای کنترل خطرات کافی نیست.
چرا نیاز به نظارت‌های مستقل بر آموزش مدل‌های هوش مصنوعی احساس می‌شود؟
خروج مداوم مهندسان نشان‌دهنده افزایش شکاف میان اهداف تجاری و الزامات ایمنی است که لزوم نظارت‌های مستقل را ضروری می‌کند.
رابینسون چه پیشنهادی برای سازمان‌دهی آزمایشگاه‌های فناوری دارد؟
او پیشنهاد می‌کند که آزمایشگاه‌های فناوری باید مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌های پرترافیک سازمان‌دهی شوند.
