مسئولیت محصول و چت‌بات توهم‌زا: تهدید حقوقی جدید برای تجارت AI

وقتی یک چت‌بات توهم می‌زند — اطلاعاتی غلط ارائه می‌دهد که کاربر به آن اعتماد می‌کند — آیا کسی مسئول است؟ این سؤال که تا همین اواخر بیشتر فلسفی به نظر می‌رسید، حالا در دادگاه‌های آمریکا و اروپا با جدیت دنبال می‌شود. نظریه «مسئولیت محصول» — که سازندگان خودرو، دارو، و دستگاه‌های پزشکی را تحت فشار قرار داده — اکنون مسیر خود را به سمت صنعت هوش مصنوعی باز کرده است.

۱. نظریه مسئولیت محصول: ۱۰۰ سال تاریخ

تاریخ مسئولیت محصول در آمریکا به اوایل قرن بیستم بازمی‌گردد. در سال ۱۹۱۶، دادگاه عالی نیویورک در پرونده «MacPherson v. Buick Motor Co.» اصلی را تثبیت کرد که سازندگان محصول می‌توانند در برابر کسانی که محصولاتشان مصرف می‌کنند مسئول باشند، حتی اگر قرارداد مستقیمی بین آنها وجود نداشته باشد. این اصل «privitiy of contract» را شکست و دروازه را برای دعاوی مصرف‌کنندگان باز کرد.

اما انقلاب واقعی در سال ۱۹۶۳ اتفاق افتاد. در پرونده «Greenman v. Yuba Power Products» در کالیفرنیا، قاضی روجر تری‌نور اصل «مسئولیت سخت» (strict liability) را برای محصولات معیوب پذیرفت. این اصل انقلابی بود چون دیگر نیازی به اثبات «بی‌احتیاطی» شرکت نبود — کافی بود ثابت شود محصول معیوب بوده و آسیب ایجاد کرده است.

سه شاخه اصلی مسئولیت محصول در حقوق آمریکا عبارتند از:

• نقص طراحی (Design Defect): خود طراحی محصول خطرناک است، حتی اگر درست ساخته شده باشد
• نقص ساخت (Manufacturing Defect): محصول خوب طراحی شده اما در فرایند تولید اشتباهی رخ داده
• هشدار ناکافی (Failure to Warn): محصول خطراتی دارد که به کاربر اطلاع داده نشده

هر سه این نظریه‌ها در پرونده‌های مرتبط با AI مطرح شده‌اند. شکایت فلوریدا علیه OpenAI بیشتر بر «نقص طراحی» و «هشدار ناکافی» تکیه دارد.

۲. اعمال مسئولیت محصول بر AI

چالش اصلی در اعمال مسئولیت محصول بر سیستم‌های AI این است که این سیستم‌ها با هیچ محصول فیزیکی سابقه‌داری قابل مقایسه نیستند. خودرو یا داروی معیوب یک رفتار ثابت دارد — اگر در شرایط مشخصی خراب می‌شود، قابل پیش‌بینی و اثبات است. اما AI چنین نیست.

خروجی یک مدل زبانی بزرگ به طور ذاتی احتمالی است — یعنی برای همان ورودی، ممکن است خروجی‌های مختلف تولید کند. این «عدم قطعیت» چند سؤال حقوقی جدی مطرح می‌کند:

اول، چه زمانی یک «توهم» (hallucination) به «نقص» تبدیل می‌شود؟ اگر مدل ۹۵٪ مواقع پاسخ درست می‌دهد، آیا ۵٪ خطا یک «نقص طراحی» محسوب می‌شود؟ معیار مقایسه چیست؟

دوم، آیا خطاهای AI «قابل پیش‌بینی» بودند؟ در حقوق مسئولیت محصول، کلیدی است که شرکت از خطر احتمالی آگاه بوده یا باید می‌بوده. برای AI، این سؤال پیچیده است — همه می‌دانند مدل‌های زبانی گاهی توهم می‌زنند، اما پیش‌بینی دقیق اینکه چه وقت و در چه زمینه‌ای رخ می‌دهد، دشوار است.

سوم، مسئله «intervening causation» است: آیا تصمیم کاربر برای اعتماد به خروجی AI، زنجیر علّی بین نقص و آسیب را می‌برد؟ اگر کاربر بداند AI اشتباه می‌کند و همچنان تصمیم مهمی براساس آن بگیرد، چقدر مسئولیت به شرکت سازنده بازمی‌گردد؟

«مسئله این نیست که AI اشتباه کند — همه ابزارها اشتباه می‌کنند. مسئله این است که آیا سازندگان آن خطرات را به طور کافی به کاربران اطلاع داده‌اند.» — پروفسور Woodrow Hartzog، استاد حقوق فناوری دانشگاه بوستون

۳. نقص طراحی در برابر نقص ساخت

در حقوق مسئولیت محصول، تمایز بین «نقص طراحی» و «نقص ساخت» تفاوت‌های عملی مهمی دارد. «نقص ساخت» به این معناست که یک محصول خاص، در فرایند تولید، با مشخصات طراحی‌شده متفاوت شده. مثلاً اگر یک ماشین با مشخصات درست طراحی شده اما ترمز آن نادرست نصب شده، این نقص ساخت است.

اما «نقص طراحی» پیچیده‌تر است — ادعا این است که خود معماری یا رویکرد اساسی محصول، ذاتاً خطرناک است. برای AI، این معادل این است که بگوییم «معماری ترانسفورمر که این مدل‌ها روی آن ساخته شده‌اند، ذاتاً مستعد تولید توهم است» و این یک نقص طراحی محسوب می‌شود.

معیار متداول برای نقص طراحی در آمریکا «تست خطر-فایده» (risk-utility test) است: آیا خطرات طراحی بیش از مزایای آن است؟ آیا یک طراحی جایگزین معقول وجود داشت که خطرات را کاهش می‌داد؟

برای ChatGPT، این سؤال‌ها اینگونه ترجمه می‌شوند: آیا OpenAI می‌توانست معماری‌ای طراحی کند که کمتر توهم ایجاد کند؟ آیا سیستم‌های تأیید واقعی (factuality) کافی طراحی و پیاده‌سازی شده بودند؟ آیا خروجی‌های پرخطر (مثل اطلاعات پزشکی) به اندازه کافی محدود می‌شدند؟

شرکت‌های AI در دفاع از خود ممکن است به «آزمون چاقوی جراح» (learned intermediary doctrine) متوسل شوند — این نظریه می‌گوید اگر یک محصول به متخصصان فروخته می‌شود، کافی است خطرات به آن متخصصان اطلاع داده شود، نه لزوماً به کاربر نهایی. اما این استدلال برای ابزاری مثل ChatGPT که به میلیون‌ها کاربر غیرمتخصص عرضه می‌شود، کمتر قانع‌کننده است.

۴. هشدار ناکافی: آیا TOS کافی است؟

یکی از مهم‌ترین نظریه‌های مطرح‌شده در دعاوی AI، «هشدار ناکافی» است. شرکت‌های AI در شرایط استفاده (Terms of Service) خود معمولاً هشدارهایی درباره محدودیت‌های مدل می‌گنجانند. OpenAI در TOS خود می‌نویسد که ChatGPT می‌تواند «اطلاعات نادرست ارائه دهد» و کاربران «نباید برای تصمیمات حیاتی صرفاً به آن تکیه کنند».

اما آیا این هشدارها کافی است؟ حقوق مسئولیت محصول استانداردهای سختگیرانه‌ای برای هشدار مناسب دارد:

• هشدار باید برجسته باشد — نه دفن‌شده در صفحه ۱۵ TOS که کسی نمی‌خواند
• هشدار باید خاص باشد — «ممکن است اشتباه کند» اطلاعات کافی نمی‌دهد؛ «در موضوعات پزشکی احتمال توهم ۳۰٪ است» هشدار مشخص‌تری است
• هشدار باید متناسب با ریسک باشد — هر چه خطر بیشتر، هشدار باید برجسته‌تر باشد

دادستان فلوریدا استدلال می‌کند که OpenAI از یک طرف ChatGPT را با زبان بازاریابی قدرتمند به عنوان ابزاری «هوشمند» و «مطمئن» معرفی کرده، و از طرف دیگر هشدارهای آن را در متن‌های حقوقی مبهم پنهان کرده است. این تناقض بین بازاریابی و هشدار، قلب «failure to warn» را تشکیل می‌دهد.

۵. چارچوب اتحادیه اروپا: AI Act و دستورالعمل مسئولیت

در حالی که آمریکا هنوز از طریق دادگاه‌ها این سؤالات را حل می‌کند، اتحادیه اروپا رویکرد قانونگذاری مستقیم‌تری اتخاذ کرده است. دو سند اصلی اروپایی اینجا اهمیت دارند:

EU AI Act (2024): این قانون سیستم‌های AI را براساس سطح ریسک طبقه‌بندی می‌کند. سیستم‌های «پرخطر» (high-risk) — که شامل AI در حوزه‌های پزشکی، آموزش، استخدام، و دستگاه قضایی می‌شود — باید پیش از استقرار ارزیابی ریسک انجام دهند، مستندات دقیق داشته باشند، و به ثبت در یک پایگاه داده اتحادیه اروپا بپردازند. نقض این قوانین می‌تواند به جریمه‌هایی تا ۳۵ میلیون یورو یا ۷٪ درآمد جهانی منجر شود.

EU Product Liability Directive 2024: این دستورالعمل که در سال ۲۰۲۴ تجدیدنظر شد، به صراحت «نرم‌افزار» و «سیستم‌های AI» را به عنوان «محصول» برای اهداف مسئولیت محصول تعریف می‌کند. این یعنی در اروپا، بحث «آیا AI محصول است یا خدمت؟» از نظر قانونی پاسخ گرفته است — AI یک «محصول» است و استانداردهای مسئولیت محصول بر آن اعمال می‌شود.

تفاوت رویکرد اروپا و آمریکا در اینجا مهم است. اروپا قانون گذاشته، آمریکا هنوز از طریق دادگاه‌ها دارد این سؤالات را پاسخ می‌دهد. اما پرونده‌هایی مثل شکایت فلوریدا ممکن است مجلس آمریکا را به تصویب قانون فدرال مسئولیت AI وادار کنند.

۶. آنچه شرکت‌های AI باید همین الان انجام دهند

پرونده فلوریدا و تحولات حقوقی ۲۰۲۵-۲۰۲۶ چند درس عملی برای شرکت‌های AI دارند:

مستندسازی آزمون ایمنی: شرکت‌ها باید سوابق دقیقی از آزمون‌های ایمنی (safety testing)، red-teaming، و ارزیابی‌های ریسک نگهداری کنند. اگر روزی در دادگاه از شما خواسته شود ثابت کنید که می‌دانستید محصولتان در چه شرایطی شکست می‌خورد، این مدارک حیاتی خواهند بود.

بازنگری در ارتباطات بازاریابی: ادعاهایی مثل «دقت بالا»، «قابل اطمینان»، یا «هوشمند» باید با داده‌های قابل تأیید همراه باشند. هر ادعای بازاریابی که بعداً قابل اثبات نباشد، می‌تواند مستمسک دعوای حقوقی شود.

هشدارهای متناسب با ریسک: کاربرد در حوزه‌های پزشکی، حقوقی، مالی، یا آموزشی نیازمند هشدارهای واضح‌تر از یک جمله در TOS است. پنجره‌های هشدار برجسته، محدودیت‌های اعمال‌شده در کاربردهای پرخطر، و الزامات تأیید انسانی می‌توانند ریسک حقوقی را کاهش دهند.

بیمه مسئولیت AI: بازار بیمه تخصصی AI در حال شکل‌گیری است. «Lloyd's of London» و چند بیمه‌گر بزرگ شروع به نوشتن پوشش‌های مسئولیت خاص AI کرده‌اند. این بیمه‌ها نه‌تنها محافظت مالی می‌دهند، بلکه معمولاً شرکت‌ها را به ایجاد فرایندهای مستندسازی بهتر تشویق می‌کنند.

مقایسه چارچوب‌های حقوقی مسئولیت محصول AI در آمریکا و اروپا

مسئولیت محصول در صنعت هوش مصنوعی از دو مسیر متفاوت در آمریکا و اروپا در حال شکل‌گیری است. در آمریکا، این موضوع عمدتاً از طریق شکایت‌های قضایی و رویه دادگاه‌ها پیش می‌رود، در حالی که اتحادیه اروپا با تصویب قوانین جامع و مستقیم، چارچوب حقوقی صریح‌تری ایجاد کرده است. جدول زیر تفاوت‌های کلیدی این دو رویکرد را مقایسه می‌کند.

درک این تفاوت‌ها برای شرکت‌های AI که در سطح جهانی فعالیت می‌کنند حیاتی است، زیرا الزامات حقوقی در دو سوی آتلانتیک می‌تواند به طور قابل توجهی متفاوت باشد و بر استراتژی محصول، بازاریابی و مدیریت ریسک تأثیر بگذارد.

همان‌طور که جدول نشان می‌دهد، رویکرد اتحادیه اروپا ساختاریافته‌تر و پیش‌بینانه‌تر است، در حالی که مسیر حقوقی آمریکا همچنان در حال تکامل از طریق آرای قضایی است. با این حال، پرونده‌های جاری مانند شکایت فلوریدا علیه OpenAI می‌توانند به ایجاد رویه‌های الزام‌آور در نظام حقوقی آمریکا منجر شوند.

نتیجه‌گیری: آینده مسئولیت حقوقی در دنیای AI

مسئولیت محصول در طول صد سال، صنایع مختلف را متحول کرده است. خودروسازان ایمنی را جدی گرفتند چون جریمه‌ها سنگین بود. داروسازان آزمایش‌های بالینی دقیق انجام دادند چون قانون این را الزامی کرد. تولیدکنندگان لوازم خانگی هشدارهای واضح نصب کردند چون می‌دانستند بدون آن، مسئولیت قانونی دارند.

حالا صنعت AI در آستانه همین تحول ایستاده است. تفاوت این است که AI سریع‌تر، پیچیده‌تر، و در زمینه‌های بیشتری کاربرد دارد. چارچوب حقوقی موجود ممکن است نیازمند انطباق جدی باشد تا بتواند با این واقعیت کنار بیاید.

چه دادگاه فلوریدا به نفع دادستان حکم دهد، چه به نفع OpenAI — این پرونده به عنوان آغاز یک عصر جدید در تاریخ حقوق فناوری ثبت خواهد شد. عصری که در آن شرکت‌های AI دیگر نمی‌توانند پشت «شرایط استفاده» پنهان شوند و در قبال آسیب‌های واقعی ناشی از محصولاتشان پاسخگو نباشند.