هوش مصنوعی تحت نظارت: قانون هوش مصنوعی اتحادیه اروپا

در این مقاله به قانون هوش مصنوعی اتحادیه اروپا خواهیم پرداخت. از آنجایی که هوش مصنوعی (AI) بخش‌های زیادی را متحول می‌کند و بر نحوه زندگی، کار و تعامل افراد تأثیر می‌گذارد، تأثیر آن در جامعه به سرعت در حال افزایش است. با این حال، این گسترش و توسعه سریع هوش مصنوعی نگرانی‌های بسیاری از جمله جنبه‌های مختلف مانند سوگیری، حفاظت از حریم خصوصی و سایر خطرات بالقوه را ایجاد می‌کند.

قانون هوش مصنوعی اتحادیه اروپا چیست؟

به منظور رسیدگی به مسائل بالقوه و نیاز به توسعه هوش مصنوعی اخلاقی و مسئولانه، اتحادیه اروپا (EU) قانون هوش مصنوعی اتحادیه اروپا را تدوین کرده است. قانون هوش مصنوعی اتحادیه اروپا یک قانون پیشنهادی است که قصد دارد یک چارچوب قانونی جامع برای تنظیم سیستم های هوش مصنوعی ایجاد کند.

قانون هوش مصنوعی اتحادیه اروپا برای اولین بار توسط کمیسیون اروپا در آوریل 2021 پیشنهاد شد و سپس در 14 ژوئن 2023 توسط پارلمان اتحادیه اروپا تصویب شد، که نشان دهنده اولین گام بزرگ در جهت تنظیم هوش مصنوعی است.

در حال حاضر، سند موجود به عنوان پیش نویس یک قانون آینده عمل می کند که بر اساس آن پارلمان اروپا، کمیسیون اروپا و شورای اتحادیه اروپا با هم کار می کنند تا آن را تا سال 2023 تکمیل کنند.

انگیزه پشت قانون هوش مصنوعی اتحادیه اروپا

اتحادیه اروپا متعهد به توسعه قوانین هوش مصنوعی است، زیرا آنها از خطرات احتمالی آن آگاه هستند و به محافظت از حقوق مردم اختصاص دارند. با توجه به پتانسیل هوش مصنوعی برای تجاوز به حریم خصوصی، تبعیض و تأثیر بر کنترل انسانی، اتحادیه اروپا در نظر دارد با تعیین قوانین و استانداردهای واضح، توسعه و استفاده مسئولانه و اخلاقی از هوش مصنوعی را ارتقا دهد.

علاوه بر این، اروپا با پرداختن به خطرات بالقوه و ترویج شفافیت، پاسخگویی و نظارت انسانی، در صدد ایجاد اعتماد در میان افراد و تشویق پذیرش فناوری‌های هوش مصنوعی به شیوه‌ای ایمن و مفید برای جامعه است.

سیستم مبتنی بر ریسک قانون هوش مصنوعی

قانون هوش مصنوعی اتحادیه اروپا یک رویکرد مبتنی بر ریسک را ترسیم می کند و سیستم های هوش مصنوعی را بسته به تأثیر بالقوه آنها به دسته های مختلفی تقسیم می کند، از ریسک غیرقابل قبول تا ریسک حداقل.

برخی از سیستم‌های هوش مصنوعی که خطرناک تلقی می‌شوند، مانند تشخیص چهره در مکان‌های عمومی، ابزارهای پلیسی پیش‌بینی‌کننده و سیستم‌های امتیازدهی اجتماعی، به طور کامل ممنوع خواهند شد. این قانون همچنین نیازمند شفافیت است، یعنی اطلاع رسانی به مردم در صورتی که محتوایی که می بینند توسط هوش مصنوعی ساخته شده است و اطمینان حاصل شود که محتوای غیرقانونی تولید نمی شود.

برخی از پیامدهای مهم متن پیش نویس پارلمان اروپا در مورد مقررات هوش مصنوعی عبارتند از:

• ممنوعیت هوش مصنوعی تشخیص احساسات – پیش نویس پیشنهاد می کند استفاده از هوش مصنوعی برای شناسایی احساسات افراد در پلیس، مدارس و محل کار ممنوع شود. در حالی که تشخیص و تجزیه و تحلیل چهره مبتنی بر هوش مصنوعی ممنوع نشده است، پیش بینی می شود که در مورد این موضوع اختلاف نظر وجود داشته باشد.
• ممنوعیت بیومتریک بلادرنگ و پلیس پیش‌بینی در فضاهای عمومی – این ممنوعیت پیشنهادی به این معنی است که استفاده از تشخیص چهره و سایر ابزارهای بیومتریک برای ردیابی افراد یا پیش‌بینی رفتار مجرمانه ممنوع خواهد بود. این موضوع بحث‌های زیادی را برانگیخته است زیرا بسیاری استدلال می‌کنند که این فناوری‌ها برای تضمین امنیت عمومی و اجرای کارآمد قانون ضروری هستند.
• ممنوعیت امتیازدهی اجتماعی – پیش نویس پیشنهاد به دنبال ممنوعیت تمرین امتیازدهی اجتماعی است که شامل استفاده از داده های رفتار اجتماعی افراد برای ایجاد تعمیم و نمایه در مورد آنها می شود.
• محدودیت‌های جدید برای هوش مصنوعی مولد – پیش‌نویس قوانین جدیدی را برای هوش مصنوعی مولد پیشنهاد می‌کند و پیشنهاد می‌کند که مدل‌های زبان بزرگ نباید از مطالب دارای حق چاپ در هنگام آموزش استفاده کنند.
• محدودیت‌های جدید در الگوریتم‌های توصیه در رسانه‌های اجتماعی – پیش‌نویس مقررات سخت‌گیرانه‌تری را برای الگوریتم‌های توصیه مورد استفاده در پلتفرم‌های رسانه‌های اجتماعی پیشنهاد می‌کند. این الگوریتم‌ها را به‌عنوان «ریسک بالا» طبقه‌بندی می‌کند، که به این معنی است که آنها با دقت بیشتری نظارت و بررسی می‌شوند.

از سوی دیگر، سیستم‌های هوش مصنوعی که ریسک کمتری دارند، مانند فیلترهای هرزنامه، قوانین زیادی برای پیروی نخواهند داشت. هدف قانون هوش مصنوعی اتحادیه اروپا یافتن تعادلی بین کنترل سیستم‌های هوش مصنوعی مخاطره‌آمیز است و در عین حال فضایی را برای نوآوری در سیستم‌های هوش مصنوعی ایمن‌تر فراهم می‌کند.

کمیسیون پیشنهاد کرده است که افرادی که قوانین اتحادیه اروپا در مورد هوش مصنوعی را زیر پا می گذارند ممکن است مجبور شوند 30 میلیون یورو یا 6 درصد از سود کلی خود را جریمه بپردازند، هر کدام بیشتر باشد، با این حال، پارلمان از جریمه هایی تا سقف 40 میلیون یورو حمایت می کند. 7 درصد از درآمد سالانه یک شرکت. هر دوی این پیشنهادات بالاتر از جریمه های تعیین شده توسط مقررات عمومی حفاظت از داده ها (GDPR) هستند. عدم رعایت GDPR ممکن است منجر به جریمه تا 10 میلیون یورو یا 2٪ از درآمد سالانه یک سازمان شود.

تاثیر قانون هوش مصنوعی اتحادیه اروپا

قوانین اروپا برای هوش مصنوعی می تواند تأثیر زیادی داشته باشد. محققان پیشنهاد می‌کنند که ارائه‌دهندگان مدل‌های هوش مصنوعی بزرگ‌تر باید مسئول شفاف‌سازی باشند و باید منابع فنی کافی برای اجرای قوانین وجود داشته باشد.

چالش اصلی این است که مطمئن شوید شرکت‌های هوش مصنوعی واقعاً تغییر می‌کنند و مقررات را رعایت می‌کنند. بدون فشار قوی، آنها ممکن است فقط تغییرات کوچکی را برای پیروی از قوانین بدون ایجاد تفاوت واقعی ایجاد کنند. اما اگر قانون هوش مصنوعی به قانون تبدیل شود و اجرا شود، می‌تواند منجر به تغییرات مثبت شود و هوش مصنوعی را شفاف‌تر و پاسخگوتر کند.