خسارت ناشی از هوش مصنوعی به عهده کیست؟

با گسترش استفاده از هوش مصنوعی در بخش‌های مختلف، یکی از پرسش‌های مهم حقوقی این است که اگر یک سامانه هوش مصنوعی موجب خسارت شود، مسئولیت متوجه چه کسی خواهد بود؛ طراح، توسعه‌دهنده، تولیدکننده، عرضه‌کننده، مالک سامانه، سازمان بهره‌بردار یا فردی که بر اساس خروجی آن تصمیم گرفته است؟

به گزارش ایران جیب به نقل از ایسنا، علی نظافتیان، کارشناس حقوق بانکی، با اشاره به قانون ملی توسعه هوش مصنوعی که در مردادماه ۱۴۰۵ تصویب و برای اجرا ابلاغ شده است، گفت این قانون اگرچه چارچوب‌های مختلف توسعه هوش مصنوعی را مشخص کرده، اما نظام جامع مسئولیت مدنی و کیفری این فناوری هنوز نیازمند تدوین قواعد مشخص است.

قانون هوش مصنوعی چه تکلیفی برای نظام حقوقی تعیین کرده است؟

قانون ملی توسعه هوش مصنوعی موضوعاتی مانند حکمرانی، زیرساخت، داده، امنیت، نیروی انسانی، تأمین مالی و توسعه فناوری را مورد توجه قرار داده است.

یکی از مواد مهم این قانون، بند «پ» ماده ۴ است که تدوین اسناد مربوط به حقوق و مسئولیت‌های مدنی و کیفری هوش مصنوعی و همچنین الزامات شرعی و حقوقی این فناوری را پیش‌بینی کرده است.

بر اساس این حکم، این اسناد باید برای تصویب در مراجع قانونی و با رعایت موازین شرعی تدوین شوند.

نظافتیان تأکید کرده است که این حکم به معنای ایجاد یک نظام کامل مسئولیت برای هوش مصنوعی نیست، بلکه بیشتر مسیر تدوین قواعد حقوقی آینده این فناوری را مشخص می‌کند.

اگر هوش مصنوعی خسارت ایجاد کند، چه کسی پاسخگو است؟

یکی از چالش‌های اصلی، تعیین مسئولیت در زنجیره تولید و استفاده از یک سامانه هوش مصنوعی است.

یک سامانه هوشمند معمولاً از مراحل مختلفی عبور می‌کند؛ از جمع‌آوری داده و طراحی الگوریتم گرفته تا آموزش مدل، توسعه نرم‌افزار، تولید و عرضه، استقرار در سازمان و در نهایت استفاده از خروجی برای تصمیم‌گیری.

به همین دلیل، اگر سامانه موجب خسارت شود، ممکن است عوامل مختلفی در ایجاد آن نقش داشته باشند.

برای مثال، اگر مشکل از داده‌های نادرست یا ناقص باشد، مسئولیت می‌تواند متوجه زنجیره تأمین و پردازش داده شود. اگر الگوریتم دارای نقص قابل پیش‌بینی باشد، مسئولیت طراح یا توسعه‌دهنده مطرح می‌شود. در صورت عرضه یک سامانه معیوب نیز مسئولیت تولیدکننده یا عرضه‌کننده می‌تواند مورد بررسی قرار گیرد.

خطای کاربر یا سازمان بهره‌بردار هم مهم است

مسئولیت تنها به سازندگان هوش مصنوعی محدود نمی‌شود. سازمانی که یک سامانه هوشمند را در فرآیندهای حساس خود به کار می‌گیرد نیز باید نحوه استفاده و نظارت بر آن را مورد توجه قرار دهد.

برای نمونه، اگر یک سازمان بدون ارزیابی کافی، سامانه‌ای را وارد فرآیند تصمیم‌گیری کند یا نظارت لازم بر عملکرد آن نداشته باشد، موضوع مسئولیت سازمان بهره‌بردار و مدیران مربوط نیز می‌تواند مطرح شود.

از سوی دیگر، اگر یک کاربر حرفه‌ای یا تصمیم‌گیرنده انسانی بدون بررسی لازم، خروجی هوش مصنوعی را مبنای تصمیم نهایی قرار دهد، مسئولیت انسانی در آن تصمیم نیز باید مشخص شود.

داده‌ها می‌توانند منشأ اصلی خطا باشند

یکی از موضوعات مهم در نظام حقوقی آینده هوش مصنوعی، مسئولیت مربوط به داده است.

به گفته این کارشناس حقوق بانکی، داده‌های ناقص، نادرست، قدیمی یا تبعیض‌آمیز می‌توانند باعث شوند خروجی سامانه نیز دچار خطا شود. همچنین نحوه جمع‌آوری و استفاده از داده‌ها و رعایت حقوق اشخاص در این فرآیند اهمیت دارد.

بنابراین، صرف اینکه تصمیم نهایی توسط یک سامانه هوش مصنوعی تولید شده باشد، به این معنا نیست که مسئولیت را می‌توان به خود فناوری نسبت داد.

در نظام حقوقی آینده باید مشخص شود چه شخص یا نهادی داده‌ها را تولید، جمع‌آوری، پالایش، تأیید و در اختیار سامانه قرار داده و چه استانداردهایی برای صحت و اعتبار این داده‌ها وجود داشته است.

چه عواملی می‌تواند مسئولیت ایجاد کند؟

بر اساس توضیحات این کارشناس، در تدوین نظام مسئولیت هوش مصنوعی باید سناریوهای مختلفی مورد توجه قرار گیرد؛ از جمله:

چالش حقوقی هوش مصنوعی از «مقصر» فراتر می‌رود

با توسعه استفاده از هوش مصنوعی، نظام حقوقی باید مشخص کند مسئولیت در صورت وقوع خسارت چگونه میان اجزای مختلف این زنجیره تقسیم می‌شود. موضوع فقط تعیین یک مقصر نیست؛ بلکه باید سهم و وظیفه هر یک از طراح، توسعه‌دهنده، تولیدکننده، عرضه‌کننده، مالک، سازمان بهره‌بردار، کاربر و تصمیم‌گیرنده انسانی مشخص شود.

قانون ملی توسعه هوش مصنوعی با پیش‌بینی تدوین اسناد مربوط به حقوق و مسئولیت‌های مدنی و کیفری، مسیر این بحث را باز کرده است؛ اما تعیین قواعد دقیق مسئولیت، به تدوین و تصویب مقررات تخصصی در آینده نیاز خواهد داشت.