واگذاری امور قضاوتی به هوش مصنوعی در نظام حقوقی ایران با تاکید بر رویه موجود
هوش مصنوعی از کاربردهای مختلف و متنوعی در انواع رسته ها برخوردار بوده و یکی از آنها، ارائه خدمات قضایی بوده است. بدیهی است که در طول دو دهه گذشته در نظام های حقوقی مختلف به ویژه نظام های حقوقی پیشرفته، کاربردهای مختلف و متنوعی از هوش مصنوعی شده است. با این حال، آن چه که تاکنون از تحقیقات مغفول مانده است، کاربرد هوش مصنوعی به عنوان قاضی بوده است. بدیهی است که در این زمینه، دو سوال مطرح است اولا آیا امکان کاربرد هوش مصنوعی به عنوان قاضی در رسیدگی های حقوقی وجود دارد؟ ثانیا این که چگونه و تحت چه شرایطی می توان از هوش مصنوعی به عنوان قاضی بهره برد ؟ این دو سوال با توجه به نظام های حقوقی ایران ورویه های بین المللی مثبت مورد توجه قرار می گیرند.در ارتباط با این دو سوال این دو نتیجه حاصل می شود اولا به نظر می رسد که امکان بکارگیری هوش مصنوعی به عنوان قاضی در نظام حقوقی ایران فراهم نباشد. ثانیا به نظر می رسد که در نظام های حقوقی موفق در زمینه کاربرد هوش مصنوعهی، هوش مصنوعی می تواند به عنوان قاضی مستقل به ارائه خدمات قضایی بپردازد این در حالی است که در نظام حقوقی ایران با توجه به ظرفیت های قانونی سند تحول قضایی، می توان هوش مصنوعی را به عنوان دستیار قاضی مورد پذیرش قرار داد.
کلید واژگان : هوش مصنوعی، قاضی هوشمند، هوشمندسازی آیین دادرسی مدنی، دادگاه هوشمند.
1-مقدمه:
قضاوت از امور و صفات مختص به ذات الهی است. که خداوند متعال به بهترین بندگانش یعنی پیامبران و امامان واگذار کرده است. در عصر جدید با بالا رفتن تعداد پرونده های قضایی و محدود بودن تعداد قضات، به دلیل سرعت و دقت بالای هوش مصنوعی در تجزیه و تحلیل حجم زیادی از پایگاه داده در مدت زمان بسیار کوتاه، استفاده از هوش غیرانسانی بعنوان قاضی، مورد توجه و استقبال حقوقدانان قرار گرفته است. در فقه اسلامی و حقوق ایران جهت جلوگیری از قضاوت باطل شرایطی را برای شخص قاضی در نظر گرفته اند که جمع بودن آن شرایط از جمله عاقل بودن، مرد بودن، مسلمان و شیعه بودن،عدالت، بلوغ، حلال زادگی، آزاد بودن، علم به احکام قضاوت و اجتهاد فقهی در شخص قاضی لازم و ضروری است. همچنین در اکثر کشورها قضات باید از حسن اخلاق و رفتار و عدم سوء پیشینه برخوردار باشند، که نسبت دادن این خصوصیات به هوش مصنوعی با وجود تعاریف امروزی از آن، امری بسیار سخت و مهمل خواهد بود؛همچنین در ماده 3 قانون هوش مصنوعی مصوب اتحادیه اروپا در سال 2024 اعلام می دارد که تا جایی می توان قوانین اتحادیه اروپا در مورد هوش مصنوعی را به اجرا گذاشت که با قوانین داخلی کشورها تناقض نداشته و به آنها آسیب نرساند.
البته برخی کشورها در این حوزه پیشتازی نموده و از هوش مصنوعی در نظام حقوقی و قضایی خود استفاده کرده اند. بعنوان مثال در کشور استونی درصدد واگذاری پرونده های قضایی با ارزش کمتر از 7000 یورو به هوش مصنوعی هستند؛ و یا طبق حکمی کشور چین اعلام کرده است که سیستم قضایی آن کشور تا سال 2025 زیرساخت های هوش مصنوعی را جهت تسریع و بهینه سازی فرآیند رسیدگی به پرونده ها و استعانت به قضات فراهم می آورد. البته طی همان حکم اعلام میدارد که نهایتا قضاوت توسط قضات بعمل می آید و هوش مصنوعی صرفا بعنوان دستیار به کار گرفته خواهد شد. دادگاه‌های چینی سعی کرده‌اند از تکنیک‌های هوش مصنوعی برای کمک و نظارت بر قضات استفاده کنند. از یک طرف، بسیاری از دادگاه‌های محلی در چین در حال توسعه یک سیستم «حل کردن پرونده‌های مشابه» بر اساس پایگاه‌داده مرجع هستند که می‌تواند قضاوت پرونده‌های مشابه را برای ارجاع به قضات ارسال کند. از سوی دیگر، برخی از دادگاه‌ها تلاش کرده‌اند تا براساس پایگاه‌داده مرجع، یک عملکرد «هشدار قضاوت غیرعادی» ایجاد کنند. یعنی اگر حکمی با قضاوت‌های پرونده‌های مشابه، تفاوت قابل‌توجهی داشته باشد، سیستم به طور خودکار هشداری را برای مافوق قاضی ارسال می‌کند. آنها را وادار می کند تا مکانیسم نظارتی را بر روی قاضی مربوطه آغاز کنند.
مشکل اصلی در پرونده های بدیع حاصل می شودکه هیچ سابقه و داده ی مشابهی در خصوص آنها وجود ندارد هوش مصنوعی سردرگم خواهد ماند. همچنین در بسیاری از پرونده ها، قاضی بایستی انگیزه متهم را بررسی و در صدور نوع برخورد با وی لحاظ نماید، که در الگوریتم هوش ماشینی این مهم غیر قابل اعمال است. ماده 42 قانون هوش مصنوعی اتحادیه اروپا(2024) اعلام میدارد که در راستای اصل فرض بر بی گناهی افراد، اشخاص بایستی همواره بر اساس رفتارهای خود مورد قضاوت قرار گیرند، و هرگز نباید بر اساس رفتارهای پیش بینی شده توسط هوش مصنوعی، صرفا بر اساس مشخصات و و یژگی های شخصیتی یا ویژگی هایی مانند ملیت، محل تولد، محل سکونت، تعداد فرزندان، سطح بدهی یا نوع خودرو و بدون سوء ظن منطقی قضاوت شوند. همچنین در ماده 27 همان قانون اشاره به این موضوع دارد که اصول اخلاقی باید در هوش مصنوعی رعایت شود تا اطمینان حاصل شود که هوش مصنوعی قابل اعتماد و از نظر اخلاقی مورد قبول باشد. که در آن ماده 7 اصل جهت رعایت اصول اخلاقی تعریف شده است که عبارتند از : 1- استحکام فنی و ایمنی 2- حریم خصوصی و حاکمیت داده 3- شفافیت 4- تنوع 5- عدم تبعیض و انصاف 6- رفاه اجتماعی و محیطی 7- مسئولیت پذیری.
از موضوعات و مطالب گفته شده می توان به این نتیجه رسید که هوش غیر انسانی در رسیدگی به پرونده های قضایی می تواند به کمک هوش انسانی بیاید ولی نمی توان صدور رای نهایی را به این هوش غیرانسانی واگذار نمود، و در صورت واگذاری کامل قضاوت به هوش مصنوعی اصول قضاوت عادلانه رعایت نخواهد شد. که در این راستا مدیر شورای قضات فدراسیون روسیه، ویکتور موموتوف در بیانیه‌ای اعلام می دارد: “سامانه‌های نرم‌افزاری با کمک فناوری هوش مصنوعی می‌توانند به قضات کمک کند که شخصیت افراد را بر پایه داده‌های ورودی بهتر شناسایی کنند و به‌شکل مقدماتی متهمان را بهتر بشناسند.هوش مصنوعی می‌تواند در ترسیم یک ارزیابی کلی به قاضی کمک کند و این‌گونه می‌تواند در بهبود قضاوت تاثیری مثبت بگذارد. تعریف معیارهایی دقیق برای ویژگی‌های فردی و حرفه‌ای متهم، رفتارهای ناخودآگاه و سابقه برخورد‌های او با دیگران می‌تواند به قضاوت عادلانه‌تر کمک کند.” و ماده 6 قانون هوش مصنوعی اتحادیه اروپا (2024) اعلام می دارد که هوش مصنوعی باید یک فناوری انسان محور باشد.
2-مفهوم شناسی واگذاری امور قضاوتی به هوش مصنوعی از منظر نظام حقوقی ایران و تجربیات مثبت بین المللی
2 -1– از منظر نظام حقوقی ایران
یکی از ارکان حاکمیتی که مهم ترین نقش را در تضمین حقوق شهروندی برعهده دارد، قوه قضاییه است. در این راستا، قوه قضاییه از طریق پایش مستمر و هوشمند اجرای حقوق شهروندی در سطوح ملی و استانی، می تواند در جهت پیشگیری از نقض حقوق شهروندی و مقابله با آن بکوشد. البته کاربرد هوش مصنوعی در قوه قضاییه در برخی از بخش ها با چالش های عمده مواجه است از جمله کاربرد هوش مصنوعی به عنوان قاضی در فرآیند رسیدگی های حقوقی در نظام حقوقی ایران یکی از موضوعات مهمی است که چالش های خود را دارد. به صورت کلی با توجه به اینکه شروطی هم چون بلوغ، عقل، اسلام، عدالت، ذکوریت ، اجتهاد، طهارت مولد و … به عنوان یک مساله مورد اجماع در میان فقهای امامیه مورد توجه قرار گرفته است، فلذا نمی توان در وهله اول هوش مصنوعی را به عنوان قاضی در نظام حقوقی ایران مورد پذیرش قرار داد. با این حال، با تدقیق بیشتر در آرای فقهی مشخص می گردد که دو دیدگاه می تواند در ارتباط با کاربرد هوش مصنوعی توسط قوه قضاییه برای تضمین حقوق شهروندی وجود داشته باشد. دیدگاه اول معتقد است که در صورتی که شخصی ماذون از سوی قاضی در زمینه تطبیق احکام و مفاهیم بر مصادیق باشد و مصونیت از خطا و اشتباه نیز داشته باشد، می توان هوش مصنوعی را به عنوان قاضی در زمینه فرآیند رسیدگی های حقوقی مورد پذیرش قرار داد.به عبارت دیگر، این فقهاء بر این اعتقاد هستند که معیارهایی هم چون بلوغ، عقل، اسلام و … را می توان در ارتباط با شخص ماذون که در اینجا هوش مصنوعی است، مفروض دانست. در مقابل، برخی دیگر، معتقدند که هرگونه توسعه در زمینه مفهوم قضاوت نیازمند حکم صریح حاکم شرع است و از آن رو که در شرایط فعلی، این چنین حکمی وجود ندارد؛ نمی توان آن را مورد پذیرش قرار داد.
دادرسی هوشمند یک فرآیند مستمر بوده که از زمان طرح دعوی توسط خواهان آغاز شده و تا زمان اجرای حکم توسط وی ادامه می یابد.این دادرسی خود شامل مولفه های مهمی هم چون رسیدگی های هوشمند ، ادله الکترونیکی و … می شود و یکی از مولفه های اصلی و عمده دادرسی هوشمند، حضور قاضی هوشمند یا بکارگیری هوش مصنوعی به عنوان قاضی است. بنابراین، دادرسی هوشمند ناظر بر تمامی این مراحل است. از همین رو، بوده است که تجربیات دولت های توسعه یافته از جمله ایالات متحده آمریکا نشانگر آن است که پیش از این که در ارتباط با ماهیت رسیدگی هوشمند قضایی ورود پیدا نمایند به مراحل اولیه طرح دعوی و صلاحیت های مقامات انتظامی ورود پیدا کرده اند برای نمونه در سال 1986 میلادی در ایالات متحده آمریکا، قانونی تحت عنوان (( قانون حریم خصوصی ارتباطات الکترونیکی))( The Electronic Communications Privacy Act (ECPA)) به تصویب رسید که به منظور دسترسی ضابطین قضایی به داده های الکترونیکی طرفین دعوی مورد تصویب قرار گرفته بود.
دادرسی هوشمند هم ناظر بر امور مدنی هم ناظر بر امور کیفری است و در برخی از نظام های حقوقی ، قوانین جداگانه ای در این خصوص به تصویب رسیده اند برای نمونه در ایالات متحده آمریکا، قانونی تحت عنوان (( قانون تحقیق و مصادره رایانه ها و دستیابی به ادله الکترونیکی در تحقیقات کیفری))( Searching and Seizing Computers and Obtaining Electronic Evidence in Criminal Investigations Act ” ) ( 2001 ) به تصویب رسیده است که ناظر بر تحقیقات کیفری است.این در حالی است که در برخی دیگر، مانند جمهوری اسلامی ایران، دادرسی الکترونیکی در امور مدنی و کیفری مجزا از یکدیگر درنظر گرفته نشده است کما اینکه با تصویب بخش نهم (( قانون مجازات جرایم نیروهای مسلح و دادرسی الکترونیکی )) در سال 1393، این چنین رویکردی اتخاذ شده است. البته موضوعی که در مورد دادرسی الکترونیکی به ویژه در کشورهایی مانند ایالات متحده آمریکا از اهمیت برخوردار است، موضوع حریم خصوصی افراد است چه آنکه اصلاحیه چهارم قانون اساسی ایالات متحده از طریق ممنوعیت جستجو نابه جا در حریم خصوصی افراد در فضای مجازی، مانع از دخالت غیرقانونی در این حریم خصوصی می گردد.
با توجه به سیر اقدامات و قانونگذاري هايی که براي هوشمندسازی دادرسی صورت گرفته است، می توان موارد ذيل را به عنوان آثار بکارگیری هوش مصنوعی به عنوان قاضی در حقوق ايران نام برد: تغییر فرهنگ دادرسی، رفع اطاله دادرسی و منطقی ساختن زمان دادرسی و اجرا، ارتقاي کیفیت رسیدگی و بالا بردن شفافیت دادرسی، اتقان آراي صادره، تشريفات زدايی مادي، استفاده از ابزارهاي نرم به جاي وسايل سخت در دادگستري، تسريع در خدمت رسانی قضايی به مردم، کاهش جمعیت دادگاهی، کاهش منازعات مردمی، جلوگیري از انحرافات اداري، کاهش هزينه، امکان دسترسی سريع و آسان به سوابق قضايی افراد در سراسر کشور، ارتقاي سطح امنیت شبکه هاي الکترونیکی و بانک هاي اطلاعاتی، کاهش حجم کاغذي در قوه قضايیه و نظام مند ساختن سیستم بايگانی اين نهاد، حذف برخی واسطه ها در روند رسیدگی به پرونده ها، ايجاد شناسنامه حقوقی براي اشخاص، ساماندهی نظام دسترسی اشخاص به اسناد و مدارک، استاندارد سازي و ارتقاء سطح حفاظت و امنیت فیزيکی اسناد و مدارک و اماکن نگهداري از آنها، توسعه خدمات الکترونیک، توسعه زيرساخت هاي فناوري اطلاعات و ارتباطات، توسعه آمادگی سازمانی در بهره گیري از فناوري هاي نوين کاربردي، هوشمندسازي و کارآمدسازي نظام قضايی، امکان دسترسی افراد به اطلاعات و بالا بردن شفافیت دادرسی.
2 -2– از منظر تجربیات مثبت بین المللی
هوش عمومی مصنوعی، یک قابلیت عامل هوشمند در زمینه فهم یا یادگیری هرگونه فعالیت ذهنی است که یک انسان می تواند انجام بدهد.( Barfield and Pagallo,2020:38) این یک هدف اولیه در برخی پژوهش های هوش مصنوعی بوده که قابلیت کاربردهای عمومی را موردنظر قرار بدهند. هوش مصنوعی عمومی برای تکمیل وظایف خود ، طیف گسترده ای از فعالیت ها را مورد نظر دارد و برخلاف هوش مصنوعی محدود که به انجام یک سری وظایف مشخص می پردازد، در هوش مصنوعی عمومی ، دسته ای گسترده از وظایف موردنظر می باشد. از این رو، در دستگاه هایی که از هوش مصنوعی عمومی استفاده می شود، این انتظار می رود که هر کار فکری را که انسان قادر به انجام آن است، در این دستگاه ها نیز انجام شود. نمونه بارز کاربرد هوش مصنوعی عمومی در ربات های انسان نما است.
هوش مصنوعی محدود، جهان امروزی ما را تحت تسلط خود در آورده است که مهم ترین مثال آن می توانند در مورد قابلیت (( سیری )) در گوشی های آیفون ، بازی های ویدیویی، موتورهای جستجو ، خلبان های خودکار و … باشد. در این نوع هوش مصنوعی ، چارچوبی از یک تفکر ساده ارایه می شود و به تدریج در حال بهتر شدن و تاثیرگذاری بیشتر است. هوش مصنوعی محدود از آن رو به این وصف اطلاق شده است که برای یک یا چند کار محدود و معین برنامه ریزی شده است. هوش مصنوعی به صورت محدود نوع خاصی از هوش مصنوعی است که در آن یک الگوریتم یادگیری برای انجام یک کار طراحی شده است و هر دانشی که از انجام آن کار به دست می‌آید به طور خودکار در سایر وظایف اعمال نمی‌شود.( Rebe,2021:21)
برخلاف هوش مصنوعی عمومی که به دنبال تقلید از فرآیندهای فکری پیچیده است، هوش مصنوعی محدود برای انجام موفقیت آمیز یک کار واحد بدون کمک انسان طراحی شده است. برنامه های محبوب برای هوش مصنوعی محدود شامل ترجمه زبان و تشخیص تصویر است
3- مبانی واگذاری امور قضاوتی به هوش مصنوعی در نظام حقوقی ایران با تطبیق با تجریبات بین المللی
شکی نیست که فناوري در حوزه دادخواست مدنی، همانند هر حوزه تلاش انسانی، باعث می شود روند کارآمدتر و مؤثرتر شود. به نظر می رسد که نوآوري هايی که در هر کشور پذيرفته شده و به اجرا درآمده اند، تأثیرگذار هستند. از ويژگی هاي جالب اين تحولات روش هايی که سیستم هاي حقوقی براي پیگیري پیامدهاي غیرقابل پیش بینی استفاده می کنند. مانند ساير سیستم هاي حقوقی مورد بررسی، حرکت تدريجی از يک فرآيند فشرده کاغذ به يک ديجیتالی نويد افزايش بهره وري را می دهد، حتی اگر اتکا به حجم بیشتري از اسناد را ترغیب کند. با اين حال، ويژگی برجسته تحولات در ايالات متحده، مواردي است که در بالا در رابطه با استفاده از فن آوري هاي جديد براي تقويت ارائه مدارک مورد بحث قرار گرفت. ( سوادکوهی، 1383: 4)
3 -1-1-2- اصل دسترسی آسان تر به نظام عدالت مدنی
به نظر می رسد اتفاق نظر در اين زمینه حاکی از آن است که نگرانی نسبت به تقسیم ديجیتال بیش از حد است و حرکت به سوابق ديجیتالی وارتباطات در آينده درجهت مثبت نه تنها براي اکثر شرکت کنندگان در روند دادرسی مدنی بلکه براي کسانی که هنگامی که تصور می شد توسط آن حتی بیشتر به حاشیه رانده شوند نیز موثر بوده است . ( سوادکوهی، 1383: 4)
3 -1-1-3-اصل تعیین واقعیت ها و تصمیم گیري در مورد پرونده
نحوه تعیین حقايق و تصمیم گیري در مورد اين پرونده احتمالاً مهم ترين منطقه تغییر است که با معرفی فن آوري هاي جديد تجربه خواهیم کرد. بنابراين احتمالاً بزرگترين بحث و جدال را با خود به همراه خواهد داشت. همچنین زمینه اي است که تأثیر نسبی آن بر محاکمه مداوم شفاهی قرار می گیرد و تجربه را با وسايل جديد ارائه مدارک در يک کشور از کشور ديگر متمايز می کند. استفاده از بانک هاي اطلاعاتی حقوقی مانند لکسیس نکسیس و وستلاو براي جستجوي موارد قبلی به قدري در ايالات متحده برقرار شده است که به سختی اتفاق می افتد که آن را در گزارشی از فناوري هاي جديد گنجانده، حتی اگر تحولات حقوقی را دگرگون کرده باشد و سهولت و اعتماد به نفس که از آن ها در تصمیم گیري پرونده ها استفاده می شود. در نتیجه، احتمالاً عادلانه است که بگويیم بیشترين تغییراتی که در حال انجام است مربوط به ارائه مدارکی است که در بالا مورد بحث قرار گرفته است و احتمالاً اين تأثیر چه میزان بر نحوه تعیین واقعیت ها انطباق دارد.. تجربه در ايالات متحده نشان می دهد که فن آوري هاي جديد در حال بهبود کارايی و دسترسی هستند. افزايش دسترسی به پرونده هاي دادگاه، چالش هاي جديدي را براي ايجاد توازن بین تضمین باز بودن دادرسی براي عموم مردم و محافظت از نگرانی هاي قانونی در مورد حريم خصوصی دعاوي ، ايجاد می کند. مسائل جديد در مورد هزينه هاي مرتبط با کشف الکترونیکی و کشف ارتباطات الکترونیکی در حال ظهور هستند. علاوه بر اين، فناوري هاي جديد در جايی که به نظر می رسد پتانسیل تغییر تعادل و رويه هاي مرتبط با استفاده از هیئت منصفه هاي مدنی را دارند، بحث برانگیز بوده و از اين طريق بر ارزش هاي اصلی روند دادرسی مدنی تأثیر می گذارد. باقی مانده است که آيا برخی از تغییرات نحوه ارائه شواهد، پذيرش بیشتري خواهند داشت و با انتقال هرچه بیشتر به عصر ديجیتال، رويکرد ما در دريافت اطلاعات تغییر می کند. (سوادکوهی فر، سام، 1383)
3 -1-1-4-اصل استفاده از فناوری هوشمند در سالن دادرسی(ارائه شواهد و افشای اسناد الکترونیکی)
امروزه استفاده از فناوري اطلاعات در سیستم هاي دادگستري بسیار رايج است و تفاوت هاي زيادي در نحوه و میزان استفاده از اين فناوري ها وجود دارد. اگرچه قطعاً مقاله از دادگاه ها ناپديد نشده است، اما فناوري اطلاعات در عناصر فرآيندهاي دادگاه به طور گسترده اتخاذ شده است. استفاده از فناوري آنلاين از جمله سمینار اينترنتی و شهادت ازطريق ويدوئو کنفرانس در جهت توسعه فناوري اطلاعات در دادگاه ها می باشد. از اين رو به دلايل مختلف، تغییراتی که فناوري هاي جديد می توانند در شیوه انجام دادرسی به وجود آورند، احتمالاً بیشترين تأثیر را در روند دادرسی مدنی خواهند داشت. شنوايی هاي تلفنی، کنفرانس ويدئويی و شبیه سازي هاي رايانه اي اين امکان را دارند که انقلابی بهتر يا بدتر در نحوه تصمیم گیري پرونده ها ايجاد کنند، چنین تغییراتی بحث برانگیز و آهسته از توسعه ايجاد می نمايند. در اينجا لازم است که تمايز قاطع بین محاکمات و ساير جلسات قضايی مشخص شود.( خالقی، علی، 1395)
فناوري اطلاعات و ارتباطات نقش روزافزونی در زندگی يافته و بسیار سريع جاي خود را در زندگی بشر پیدا نموده است. توسعه فناوري اطلاعات و ارتباطات همان طورکه بیان شد به حوزه قضايی نیز راه يافته است. فناوري اطلاعات و ارتباطات به معناي کاربرد سامانه هاي اطلاعاتی و شبکه هاي ارتباطی و ديگر ابزارهاي سخت و نرم است.کاربرد فناوري اطلاعات و ارتباطات در حوزه قضايی طیف گسترده اي دارد مواردي که رواج بیشتري يافته اند عبارتند از 🙁 Haas, Aron2007)
۱)سیستم مديريت پرونده قضايی
۲)سیستم تشکیل پرونده الکترونیکی
۳)دادگاه هاي مجازي
سیستم مديريت پرونده هاي قضايی به شیوه الکترونیکی در دادگستري يکی از نمونه هاي بارز توسعه فناوري اطلاعات و ارتباطات است. ساير سیستم ها در راستاي تسهیل ارتباط بین دادگاه ها و نهادهاي مرتبط و نیز براي افزايش دسترسی به اطلاعات توسعه يافته اند. سیستم مديريت پرونده قضايی به عنوان اصلی ترين کاربرد فناوري اطلاعات و ارتباطات در دادگاه ها از اوايل دهه ۱990 مورد توجه کشورها بوده است. اين سیستم در استرالیا بیش از ساير کشورها مورد توجه قرار گرفته است. استفاده از فناوري هاي نو در دادگاه هاي استرالیا از بخش کیفري آغاز شد. دادگاه هاي استرالیا در برخی بخش ها جايگاهی پیشرو در اين زمینه دارند. تقريباً تمامی شعب دادسرا و دادگاه هاي بدوي استرالیا از سیستم مديريت پرونده استفاده می کنند.
به موجب بند ۵ قسمت از ماده ي ۱30 قانون برنامه چهارم توسعه اقتصادي، اجتماعی، فرهنگی جمهوري اسلامی ايران مصوب 11/06/1383 قوه قضايیه مکلٌف می شود نسبت به طراحی و استقرار نظام جامع اطلاعات(ام آی اس)، عملیات و مديريت قضايی به منظور سرعت بخشیدن به عملیات، مديريت کارآمد، اصلاح فرآيندها و بهبود روش هاي انجام امور قضايی تا پايان برنامه چهارم اقدام نمايد. قانون برنامه پنجم توسعه نیز به گسترش مديريت پرونده قضايی تصريح کرده است. توسعه سیستم مديريت پرونده قضايی يک طرح ملی است که در راستاي تحقق دادرسی الکترونیکی با هدف ارائه خدمات قضايی با سرعت و سهولت و با حداقل نیاز به حضور فیزيکی انجام شده است. بنابراين از جمله مفاهیم اساسی که در راستاي دادرسی الکترونیکی مطرح است سیستم مديريت پرونده قضايی است. ( Monta Prado, Mariana2010)
اصل مدیریت خدمات قضایی به عنوان مهم ترین اصل در زمینه بکارگیری هوش مصنوعی در زمینه دادرسی ها در نظام حقوقی ایران می باشد. بر اساس اولويت و به تدريج به اين سیستم اضافه گرديده است که اهم آن ها عبارتند از :
خودکار نمودن دفاتر – در يک شعبه دادگاه نزديک به ۱0 دفتر و فهرست مختلف وجود دارد. اين دفاتر و فهرست ها ابزارهاي اصلی دادگاه براي مديريت جريان پرونده و وقايع مهم پرونده است. کثرت پرونده هاي ورودي به دادگاه ها و نیز حجم بالاي اطلاعات مورد نیاز براي هر پرونده، استفاده از دفاتر و فهرست هاي دستی براي مديريت موثر و کارامد پرونده ها را غیر ممکن ساخته است. از همین رو در سراسر جهان مکانیزه نمودن دفاتر دادگاه به عنوان يکی از قابلیت هاي اصلی سیستم مديريت پرونده در مد نظر بوده است. اهمیت اين امر تا آنجاست که در بسیاري از کشورها، سیستم مديريت پرونده را مترادف با دفاتر مکانیزه دانسته اند. در ايران نیز از اولین نسخه عملیاتی سیستم به اين موضوع توجه شد . در نسخه هاي بعدي نیز اين قابلیت توسعه يافت. در حال حاضر تمامی دفاتر دادگاه ها مکانیزه شده است و از امکانات مختلف مانند رنگ بندي، قابلیت جستجو، قابلیت هشدار وقايع مهم ، مرتب سازي و امثالهم براي کمک به کاربران در مديريت بهتر جريان پرونده ها استفاده شده است. (رمضانی خورشید دوست ، رضا: ۱38۱)
دستاوردهاي سیستم مديريت پرونده قضايی را می توان در چهار گروه به شرح زير بیان نمود: ( WaltonD.F 2002 )
-افزايش سرعت و کیفیت دادرسی
– کمک به جلوگیري از طرح دعاوي تکراري در مراجع قضايی متعدد
– تسريع در برقراري ارتباط مراجع قضايی با ساير سازمان هاي تابعه
– کاهش هزينه هاي دادرسی از طريق مکانیزه نمودن فرايندهاي دستی
– امکان انتشار آراي مراجع مختلف قضايی و قانونی براي بهره برداري مجامع علمی و قضات
– کاهش اشتباهات کارکنان شعب در تنظیم اوراق نظیر اخطاريه
– کمک به کاربران در رعايت مهلت هاي قانونی
ارتقاي توان ارزيابی و نظارت قضايی
– امکان ارزشیابی و نظارت بر فعالیت قضات و دادگاه ها
– مقايسه وضعیت رسیدگی به پرونده هاي مختلف در سراسر کشور
– تسريع دسترسی به اطلاعات سجل قضايی افراد
– يافتن کاستی هاي آموزشی و تجربی قضات و کارکنان امور قضايی
– کمک به توزيع مناسب پرونده ها به شعب
– تعیین عوامل فرايندي موثر بر اطاله دادرسی بر حسب تاثیر زمانی
پیشگیري و کاهش تخلفات در فرايند دادرسی
– امکان پیگیري تغییرات در داده هاي سیستم
– افزايش امنیت تبادل و انتقال اطلاعات قضايی
– جلوگیري از مفقود شدن اوراق پرونده
ارايه خدمات الکترونیک به شهروندان
– پاسخگويی و ارائه اطلاعات از وضعیت پرونده از طريق پايگاه اطلاع رسانی
– اطلاع رسانی در موارد مهم پرونده به طرفین دعوا از طريق پیامک
– ارسال ابلاغیه ها به مردم به صورت پست الکترونیکی
– دريافت لايحه ، دادخواست و شکوايیه از مردم از طريق شبکه اينترنت
– جلوگیري از سردرگمی مردم در پیگیري پرونده ها از طريق سامان دهی شماره پرونده (Walton D.F,2002)
3 -2—مبانی واگذاری امور قضایی به هوش مصنوعی بر اساس تجربیات مثبت بین المللی
3 -2- 1-1-– اصل شخص انگاری هوش مصنوعی در مقابل کرامت انسانی در حقوق بشر
اصل شخص انگاری هوش مصنوعی بدین معناست که هوش مصنوعی،هر موجودی را که دارای مختصات انسان باشد و با آنچه که برای آن برنامه ریزی شده است، منطبق باشد به عنوان شخص یا همان انسان درنظر می گیرد و برای وی حقوق انسانی در نظر می گیرد. لزوما ممکن است که آنچه که هوش مصنوعی به عنوان انسان در نظر می گیرد، انسان نباشد برای نمونه ممکن است که آنچه که بعدا به عنوان ربات انسان نما درنظر گرفته می شود ، از نظر هوش مصنوعی شایسته حقوق انسانی و به ویژه کرامت انسانی باشد.
اما پرسش این است که آیا هرچه که هوش مصنوعی به عنوان انسان در نظر می گیرد ، شایسته کرامت انسانی است ؟ در پاسخ بایستی به مفهوم و جایگاه کرامت انسانی در نظام حقوق بین الملل بشر اشاره داشت. ماده‌ی یک اعلامیه‌ی حقوق بشر، به اصل آزادی ذاتی انسان چنین اشاره‌شده است: تمام افراد بشر آزاد به دنیا می‌آیند و سپس در ماده‌ی دوم از بهره‌مندی همه‌ی افراد جامعه بشری از نعمت آزادی سخن گفته و در ماده‌ی سوم آن را به‌عنوان حق شخصی افراد معرفی کرده است. در ماده‌ي پنجم هم به نفی بردگی پرداخته و در ماده‌ی شانزده آزادی در امر ازدواج را مورد تصریح قرار داده و در ماده ۱۸، ۱۹ و ۲۰ از آزادی فکر، مذهب، عقیده و بیان و آزادی تشکیل مجامع سیاسی و غیره سخن گفته است. و بالاخره در ماده‌ي بیست و نهم، محدودیت‌ها و استثناهایی وارد بر آن را بیان کرده است. این ماده در مقام بیان محدودیت‌های وارده بر حقوق و آزادی‌های مندرج در اعلامیه چنین مقرر میدارد: هر کس در اجرای حقوق و استفاده از آزادی‌های خود، فقط تابع محدودیت‌هایی است که به‌وسیله‌ی قانون، منحصراً به‌منظور تأمین شناسایی و مراعات حقوق و آزادی‌های دیگران و برای مقتضیات صحیح اخلاقی و نظم عمومی و رفاه همگانی، در شرایط یک جامعه دموکراتیک وضع گردیده است. در وجه غالب و کلاسیک دموکراسی، معمولاً تنها یک اصل را برای بیان قلمرو و محدودیت حقوق و آزادی‌های افراد، اعلام می‌کنند و آن اینکه به حقوق و آزادی‌های دیگران صدمه وارد نشود.( ابراهیم پور، 1393: 20) با توجه به اعلامیه‌ی جهانی حقوق بشر (۱۹۴۸) تمامی انسان ها نسبت به برخورداری از منزلت و شان ذاتی و حقوق قطعی محروم نشدنی که به عنوان بنیان آزادی و عدالت در جهان محق هستند.
حال پس از ذکر این جایگاه بایستی بررسی شود که دامنه کرامت انسانی در مورد انگاره های انسان مدار توسط هوش مصنوعی چیست ؟ تا دهه گذشته، صحبت از شخصیت و حقوق قانونی برای هوش مصنوعی صرفا به داستان های علمی-تخیلی بازمی گشت. با این حال، بدیهی است که هوش مصنوعی در آینده ای نه چندان دور، نقش مغز متفکر را در ماشین ها به عهده می گیرد. در شرایط کنونی، شبکه های عصبی مصنوعی متعددی با تعداد نورون های بیشتر از موجودات کوچک وجود دارند که به تدریج در حال پیشرفت بوده و بزرگ تر خواهند شد. در سطح گسترده تر، پروژه هایی وجود دارند که می توانند الگوریتم های زیستی را در سطوح بزرگ تری به اجراء درآورند و کارکردهای مغز انسان را شبیه سازی نمایند.(Yilmaztekin,2022:67) حتی هوش مصنوعی در برخی از پروژه ها، آگاهی و شعور انسانی را در داخل مغزهای رایانه ای بارگزاری می نمایند که در این مورد می توان به پروژه Open Worm اشاره نمود که سیستم اعصاب مرکزی کانکتوم را مثال زد که به کرم الگانش تعلق دارد و آن را شبیه سازی می نماید. در نظرسنجی که از 175 متحصص حوزه هوش مصنوعی در سال 2016 میلادی انجام گرفته است ، نیمی از آن ها بر این اعتقاد بودند که تا سال 2040 میلادی ، هوش مصنوعی به سطح مغز انسانی رسیده و 90 درصد آن ها نیز این وضعیت را برای سال 2075 میلادی پیش بینی نموده بودند. قطعا در صورتی که هوش مصنوعی به این سطح برسد بایستی حقوقی هم سطح شخص انسانی را برای آنها درنظر گرفت با این حال، تا دستیابی به این وضعیت، هم اینک هوش مصنوعی در مرحله ای فراتر از حیوانات بوده و به همین دلیل حتی می توان گفت که حقوقی را که هم اکنون برای حیوانات قائل می شویم می توان برای موجودات هوشمند مصنوعی نیز در نظر گرفت .(Chakrborty,2022:238)
در برخی از نظام های حقوقی پا را از این فراتر گذاشته و برای برخی از مصادیق هوش مصنوعی، شخصیت حقوقی در حد انسان در نظر گرفته شده است برای نمونه نمایندگان پارلمان اروپایی، طرحی را موردنظر قرار داده اند که پایه اولین مجموعه قوتنین در ارتباط با تعامل انسان با هوش مصنوعی و ربات ها بوده است و در این طرح درنظر گرفته شده است که به ربات ها که یکی از بارزترین نمودهای هوش مصنوعی هستند، شخصیت حقوقی ویژه تحت عنوان شخصیت الکترونیک اعطاء گردد. ضمن این که در ارتباط با این طرح، پیشنهاد ایجاد یک آژانس اروپایی رباتیک و هوش مصنوعی نیز داده شده است که این امکان را داشته باشد که در زمینه های فناوری، اخلاق و حقوق مرتبط با هوش مصنوعی به پژوهشگران و قانون گذاران و نهادهای دولتی مشاوره دهد.
3 -2- 1- 2- اصل خودآگاهی و تصمیم سازی هوش مصنوعی
خودآگاهی به عنوان یکی دیگر از اصول حاکم بر هوش مصنوعی تلقی می شود که بدان معناست که فناوری های هوش مصنوعی در لحظه بر اساس آموخته های برنامه ریزی شده الگوریتمی تصمیم می گیرند که چه اقدامی را صورت دهند و این فرآیند تحت عنوان خودآگاهی تلقی می شود. این امر به صورت مستقیم، حق بر حیات انسانی را نشانه گرفته است بدین معنا که این پرسش ایجاد شده است که زمانی که یک هوش مصنوعی وجود دارد که می تواند بهتر از انسان به قضاوت و تشخیص بپردازد، چه نیازی به وجود انسان است و از این منظر حق بر حیات انسانی در معرض نقض قرار گرفته است. اصل خودآگاهی دلالت بر آن دارد که اصل بر وجود هوش مصنوعی است تا انسان چرا که انسان در موقعیت های مختلف می تواند و قطعا دچار تشخیص های اشتباه شود در حالی که هوش مصنوعی به این صورت نیست.
در این راستا، مصادیق مختلفی نیز قابل ذکر است برای نمونه نخستین بار در یک مسابقه مرتبط با فهم قراردادهای قانونی، هوش مصنوعی توانست با استفاده از خودآگاهی موجود در آن، وکلای برجسته دادگستری را شکست بدهد. بر اثر این مسابقه، پژوهشگران دریافتند که هوش مصنوعی در دریافت مسایل کلیدی مرتبط با قراردادهای تجاری، ده درصد دقیق تر از وکلاء عمل می نماید. اصل خودآگاهی البته مضرات زیادی نیز برای مشاغل دارد چرا که این انتظار وجود دارد که تا سال 2030 میلادی، هوش مصنوعی بتواند هم در بخش نرم افزاری هم در بخش سخت افزاریف جایگزین 300 میلیون فرد شاغل در سرتاسر جهان شود.
اصل خودآگاهی در هوش مصنوعی حتی در مسابقات دیگر نیز مورد آزمون قرار گرفت به نحوی که در نتایج رقابت با اساتید حقوق دانشگاه های استنفورد ، دوک و کالیفرنیای جنوبی، نیز مشخص گردید که فناوری های مبتنی بر هوش مصنوعی مبتنی بر همین اصل خودآگاهی توانسته اند سریع تر موفق شوند.
در این قسمت به مبانی خاصی که ناظر بر بکارگیری هوش مصنوعی از منظر حقوقی وجود دارد، پرداخته می شود. در این ارتباط دو اصل تصمیم گیری و مسئولیت پذیری و ارتباط آن با حقوق بشر مورد بحث و بررسی قرار می گیرند.
اصل تصمیم گیری که می توان آن را از نتایج اصل شخص انگاری دانست بر این مبنا استوار شده است که فناوری های مبتنی بر هوش مصنوعی، قدرت استقلال و تصمیم گیری در اکثریت امور را دارند. البته اصل تصمیم گیری در مورد هوش مصنوعی واجد استثنایاتی نیز است به طوری که طبیعی است که هوش مصنوعی نمی تواند به مانند شخص حقیقی در همه امور خود تصمیم گیری مستقلانه ای را داشته باشد و از این رو، بایستی وی را به شخص حقوقی شباهت بیشتری دانست تا به شخص حقیقی. شخص حقوقی که بایستی در حکم اموال تلقی گردد و دارایی و اراده او مستقل از نمایندگان خود نباشد.( Rajan and Saffiotti,2017: 1112)
اصل تصمیم گیری امروزه به وضوح از سوی فناوری های مبتنی بر هوش مصنوعی بکار گرفته می شود به نحوی که در جدیدترین هوش مصنوعی که به شکل ربات اجتماعی تدوین شده است و بدان سوفیا اطلاق می شود، قوه اراده و تصمیم گیری و استقلال در رای در آن لحاظ شده بود.(Potember,2017:1-3)
بدیهی است که زمانی که صحبت از حقوق و تعهدات برای فناوری های مبتنی بر هوش مصنوعی می گردد، بایستی در کنار آن اصل مسئولیت پذیری نیز مورد پذیرش قرار گرفته شود. این موضوع حتی در طرح پیشنهادی پارلمان اروپایی در مورد هوش مصنوعی نیز موجود است که بر آن تاکید داشته است. مواردی که می تواند مرتبط با اصل مسئولیت پذیری ذکر شود ، عبارتند از :
1-استفاده از هوش مصنوعی نبایستی به نحوی باشد که آزادی های بنیادین بشری را محدود یا نقض کند ؛
2-هوش مصنوعی بایستی در راستای اهداف و منافع عمومی بکار گرفته شود
3-هوش مصنوعی نبایستی بر زندگی انسان ها تفوق داشته باشد و این انسان است که همیشه بایستی هوش مصنوعی را تحت کنترل خود قرار بدهد
4- هوش مصنوعی بایستی به نحوی طراحی و تدوین شده باشد که امکان دسترسی عمومی فراهم باشد.
4-منابع حاکم بر واگذاری امور قضاوتی به هوش مصنوعی در نظام حقوقی ایران
در قانون اساسی جمهوری اسلامی ایران و سلف های آن ، هیچ اشاره ای به مباحث هوشمند با توجه به عدم مطرح شدن این چنین بحث هایی در آن زمان نشده است. با این حال، در این قانون از حق دسترسی آحاد ملت اعم از زن و مرد به صورت برابر به دادگاه اشاره شده است. از این منظر، دسترسی آسان تر و سهل تر شهروندان ایرانی از طریق فضای اینترنتی و سایبری به محاکم قضایی خود می تواند منتهی به تحقق عمده تر دادرسی منصفانه توسط مراجع قضایی شود. جدا از قانون اساسی ، از آنجا که منشور حقوق شهروندی ریاست جمهوری اسلامی ایران که در سال 1395 مورد پذیرش قرار گرفت ، در هیچ یک از دسته بندی های این بخش قرار نمی گیرد، در این بخش مورد اشاره قرار می گیرد. در این منشور، مواد 33-35 به حق دسترسی شهروندان به فضای مجازی اختصاص داده شده اند از جمله در ماده 34 که آمده است :
(( حق شهروندان است که از امنیت سایبری و فناوری های ارتباطاتی و اطلاع رسانی، حفاظت از داده های شخصی و حریم خصوصی بهره مند شوند. ))
بدیهی است که یکی از مصادیق دسترسی به فناوری های ارتباطاتی و اطلاع رسانی می تواند هوش مصنوعی در رسیدگی ها باشد که با لحاظ امنیت سایبری شهروندان صورت می گیرد و از این رو، یک بعد حقوق بشری نیز به خود می گیرد.
اگرچه در سیاست های کلی نظام در حوزه قضایی با توجه به سال تصویب آن، به صراحت از دسترسی دستگاه قضایی به امکانات هوشمند ، صحبت نشده است اما الزامات و مطالبات متعددی که در این زمینه وجود دارند، می توانند از طریق استنباط ، مخاطب را به سمت و سوی هوشمند شدن دادرسی های مدنی نیز بکشاند از جمله نظام مند کردن استفاده از بینه یا تخصصی شدن رسیدگی در دادگاه ها که هر دوی این اهداف بدون هوشمند شدن دادرسی ها خواه دادرسی مدنی و هوشمند امکان پذیر نیست . نکته ای که می توان از این سیاست ها متوجه شد ، آن است که هوشمند شدن دادرسی های مدنی صرفا بخشی از روند کلی اصلاحات در قوه قضاییه است و بنابراین بایستی همراستا با سایر تحولات صورت پذیرد. [1]
بیانیه گام دوم انقلاب اسلامی ابلاغی مقام رهبری، سندی بالادستی است که بر اساس آن، به یکی از آثار هوش مصنوعی در رسیدگی ها پرداخته شده است. این بیانیه که در 22 بهمن 1397 ابلاغ شده است و در واقع اصول کلی کارکردی نظام حاکمیتی جمهوری اسلامی ایران در دهه پنجم حیات خود را ترسیم می نماید؛ شامل چند بخش است که بخش اول به علم و پژوهش، بخش دوم به معنویت و اخلاق، بخش سوم به اقتصاد ، بخش چهارم به عدالت و مبارزه با فساد ، بخش پنجم به استقلال و آزادی ، بخش ششم به عزت ملی، روابط خارجی و مرزبندی با دشمن و نهایتا بخش هفتم به سبک زندگی اختصاص پیدا کرده است . از آنجا که عملکرد دستگاه قضایی به بخش چهارم تحت عنوان (( عدالت و مبارزه با فساد )) مربوط می باشد ، بنابراین تمرکز بر کارکرد صلح و سازش توسط شورای حل اختلاف در سند تحول قضایی نیز بایستی در چارچوب همین عدالت گستری و مبارزه با فساد مورد توجه قرار بگیرد. در قسمتی از این بخش آمده است :
(( عدالت در صدر هدف های اولیه همه بعثت های الهی است و در جمهوری اسلامی نیز دارای همان شان و جایگاه است؛ این، کلمه ای مقدس در همه زمان ها و سرزمین ها است و به صورت کامل، جز در حکومت حضرت ولی عصر ( اوراحنا فداه ) میسر نخواهد شد ولی به صورت نسبی، همه جا و همه وقت ممکن و فریضه ای برعهده همه به ویژه حاکمان و قدرتمندان است. جمهوری اسلامی ایران در این راه گام های بلندی برداشته است که قبلا بدان اشاره ای کوتاه رفت؛ و البته در توضیح و تشریح آن باید کارهای بیشتری صورت گیرد و توطئه واژگونه نمایی و لااقل سکوت و پنهان سازی که اکنون برنامه جدی دشمنان انقلاب است، خنثی گردد. ))
تجارت هوشمند که معاملات اینترنتی تحت پوشش آن قرار می گیرند در قانون تجارت هوشمند مورد نظر قرار گرفته است . اهمیت تجارت هوشمند و مبادلات اینترنتی در قانون تجارت الکترونیک نیز مورد توجه قرار گرفته است به نحوی که تصریح شده است که (( دولت جمهوری اسلامی ایران عزم خود مبنی بر استفاده و گسترش تجارت هوشمند در کشور را بر طبق اصول و سیاست‌های زیر اعلام می‌نماید)) .
ماده‌ی ۲ اصول مذکور را بدین شرح بیان میدارد:
(( ۱. فراهم نمودن زیرساخت‌های اصلی و زمینه‌های حقوقی و اجرایی مورد نیاز برای استفاده از تجارت هوشمند ؛
- توسعه‌ی آموزش و ترویج فرهنگ استفاده از تجارت الکترونیک؛
- حمایت از توسعه‌ی فعالیت‌های بخش غیر دولتی و جلوگیری از انحصار و ایجاد زمینه‌های رقابت؛
- رفع هر گونه محدودیت تبعیض‌آمیز در تجارت هوشمند ؛
- گسترش استفاده از شبکه‌ی اینترنت برای انجام تجارت هوشمند در کشور و اتخاذ تدابیر لازم برای بهداشت محتوایی شبکه‌ی یاد شده.))
ماده‌ی ۳ که سیاست‌های اجرایی را اعلام می‌کند، برای بخش‌های مختلف دولت، از جمله شرکت مخابرات، وزارت امور اقتصادی و دارایی، بانک مرکزی ایران، وزارت بازرگانی، وزارت علوم، تحقیقات و فناوری، وزارت امور خارجه، وزارت پست، تلگراف و تلفن و دبیرخانه‌ی شورای عالی اطلاع‌رسانی، سازمان صدا و سیما، دبیرخانه‌ی شورای عالی مناطق آزاد وظایفی برشمرده و در ادامه مقرّر کرده است: «وزارت‌خانه‌ها، سازمان‌ها، مؤسسات و شرکت‌های دولتی موظف‌اند نسبت به راه‌اندازی تجارت هوشمند در مبادلات خود اقدام و تا پایان برنامه‌ی سوم توسعه حداقل نیمی از مبادلات خود را به این روش انجام دهند).
گفتنی است گزارش عمل‌کردها در این زمینه چندان خرسندکننده نیست؛ مثلاً طبق بررسی‌های شورای عالی اطلاع‌رسانی، طی سال فقط ۴ میلیارد و ۸۷۵ میلیون ریال از بودجه‌ی اختصاص داده شده به وزارت بازرگانی تخصیص یافت. این رقم کمتر از نیمی از بودجه‌ی مصوّب برای این وزارت‌خانه برای اجرای پروژه‌های تجارت هوشمند است (روزنامه‌ی عصر ارتباط، ص۶). نتیجه‌ی کاستی‌های سخت‌افزاری و نرم‌افزاری موجود در کشور، آن است که میان ۶۰ کشور، در تجارت الکترونیک، ایران در رتبه‌ی ۵۸ قرار گرفته است؛ البتّه امید است که با عزم ملّی بتوان بر مشکلات غلبه کرد و جایگاه کشور را ارتقا داد.
از مهمترین قوانینی که ، برای پاسخ به این نیاز اجتماعی و اقتصادی تصویب شده است، قانون تجارت الکترونیک (مصوّب ۱۷/۱۰/۱۳۸۲) است. این قانون مشتمل بر ۶ باب و ۸۱ ماده است.
مهمترین مقرری قانون تجارت هوشمند که در مورد هوش مصنوعی در رسیدگی ها نیز متسری است، ماده 78 این قانون ذیل باب پنجم (جبران خسارت) است که مقرر می نماید: «هرگاه در بستر مبادلات هوشمند در اثر نقص یا ضعف سیستم مؤسسات خصوصی و دولتی، به‌جز در نتیجه قطع فیزیکی ارتباط هوشمند ، خسارتی به‌اشخاص وارد شود، مؤسسات مزبور مسؤول جبران خسارات وارده می‌باشند مگر اینکه خسارات وارده ناشی از فعل شخصی افراد باشد که در این صورت جبران خسارات برعهده این اشخاص خواهد بود».
مهم ترین آیین نامه ای را که می توان در آن به هوش مصنوعی در رسیدگی ها اشاره داشت، سند طرح تحول قضایی است که از سوی ریاست قوه قضاییه وقت در سال 1398 به تمامی سازمان ها و واحدهای تابعه این قوه ابلاغ شد و در مواد مختلف آن به موضوع ، هوشمند شدن دادرسی ها و ابعاد مختلف آن اشاره شده است. برای نمونه، در بند یک راهبرد شماره یک تحت عنوان (( شناسایی هوشمند آراء متعارض و قوانین و مقررات متعارض، مبهم و ناقص )) آمده است: (( جمع سپاری ثبت مصادیق آراء متعارض و داده کاوی اطلاعات سامانه مدیریت پرونده به منظور افزایش صدور آرای وحدت رویه قضایی با ایجاد رویه واحد )) یکی دیگر از مواردی که نشان دهنده رویکرد این آیین نامه نسبت به هوش مصنوعی در رسیدگی ها است، در ذیل راهبرد شماره 3 آن تحت عنوان (( ایجاد سامانه دستیار هوشمند قضایی )) جلوه گر می باشد که مجددا یکی از نمودهای هوش مصنوعی در رسیدگی ها است. هم چنین در این آیین نامه یکی از راهکارهای اصلی پیشگیری از صدور نظرات کارشناسی نادرست، ایجاد سامانه و کاربرگ های استاندارد با قابلیت اتصال به سامانه مدیریت پرونده است .
از زمان لازم الاجراء شدن قوانین جدید در حوزه هوشمند شدن دادرسی مدنی در نظام حقوقی ایران که شرح آن، در قسمت های قبلی رفت، تاکنون آرای متعددی در زمینه دادرسی هوشمند مدنی صادر شده است که به چند نمونه از آنها اشاره می شود :
الف – دادنامه شماره 9209970220100432 به تاریخ 26/04/1392 شعبه یک دادگاه تجدیدنظر استان تهران: در این دادنامه به این موضوع اشاره شده است که با وجود سیستم هوشمند ثبت دادخواست ، لزومی به تحریر دادخواست در برگ چاپی مخصوص منشرشده از سوی وزارت دادگستری نیست. در بخشی از این دادنامه با اشاره به هوشمند شدن دادرسی مدنی، اشعار می دارد : (( با عنایت بر احیا سیستم هوشمند دادخواست تجدیدنظرخواه با وجود درج کد رهگیری و درج میزان هزینه دادرسی پرداختی مطابق مقررات قانونی بوده فلذا در اجرای قسمت اخیر ماده 353 از قانون آیین دادرسی مدنی ضمن نقض دادنامه معترض عنه پرونده عیناً جهت رسیدگی به شعبه محترم نخستین اعاده می گردد[2].))
ب-دادنامه شماره 9309970907100487 به تاریخ 28/09/1393 شعبه 12 دادگاه تجدیدنظر استان تهران مبنی بر اعتبار ادله هوشمند است. از آنجا که ادله هوشمند به تصریح قانون تجارت هوشمند که در قسمت های قبلی مورد اشاره قرار گرفته است، با ادله سنتی هیچ تفاوتی از نظر پذیرش در محاکم قضایی ندارد، در این دادنامه به این موضوع اشاره شده است
5-نتیجه گیری
کاربرد هوش مصنوعی در حوزه دادرسی های حقوقی می تواند فرصت های ارزشمندی را در ارتباط با دستگاه قضایی و برای قضات و کارمندان آن فراهم آورد. با این حال، جایگزینی کامل هوش مصنوعی به جای قاضی انسانی چالش های زیادی را با خود به همراه دارد. در خصوص قابلیت های هوش مصنوعی برای دستگاه قضا می توان بیان داشت که هوش مصنوعی می تواند مشاغل ساده در دستگاه قضا مانند منشی و مدیر دفتر را حذف نموده و به کوچک تر شدن و افزایش بهره وری در قوه قضاییه کمک نماید و هم چنین در پیشگیری از وقوع دسته ای از دعاوی و کاهش حجم ورودی به دستگاه قضایی کمک نماید. تجربیات مثبتی در زمینه استفاده از هوش مصنوعی در مقام رسیدگی کننده مشاهده می گردد که مهم ترین آن را می توان چین دانست.
نقش قاضی در فرآیندهای رسیدگی های حقوقی بسیار پیچیده است به نحوی که علاوه بر کارکرد اصلی اش که حل و فصل اختلافات ارجاعی است، بایستی دارای قابلیت مدیریت پرونده های قضایی، تعاملات پیچیده با اصحاب دعوی و ذی نفعان آن و … باشد. البته میزانی که قاضی درهر پرونده دخیل می شود بین نظام های حقوقی مختلف یکسان نیست و حتی در یک نظام حقوقی میان قضایای حقوقی، کیفری و اداری می تواند متفاوت باشد. در این زمینه، البته اقداماتی تاکنون صورت گرفته است برای نمونه می توان به (( منشور اخلاقی اروپایی در ارتباط با استفاده از هوش مصنوعی در سیستم های قضایی و محیط های آن ها)) منتشر شده است که در این زمینه، پنج وظیفه بنیادین را برای هوش مصنوعی در مقام قضایی قرار داده است که عبارتند از : 1-احترام به حقوق بنیادین؛ 2-بی طرفی،شفافیت و انصاف ؛ 3- استقلال ؛ 4- عدم تبعیض میان اصحاب دعوی ؛5- ایجاد امنیت قضایی و کیفیت ارائه خدمات قضایی . در نظام قضایی چین هم اکنون ربات های هوشمند تحت عنوان (( Xiofa)) وجود دارند که به عنوان قاضی هوشمند برای رسیدگی به 30 هزار پرونده حقوقی به کار گرفته شده اند و تعداد صد عدد از آنها در حال حاضر استفاده می شود
از نظر تجربیات تجربیات بین المللی در زمینه تنظیم گری در حوزه کاربرد هوش مصنوعی در فرآیند رسیدگی باید گفت که تاکنون در 17 ایالت از ایالت های آمریکا، قوانین خاص در حوزه هوش مصنوعی به تصویب رسیده است و تنها در سال 2022، ایالت های کلرودا، ایلیونیز، ورمونت و واشنگتن قوانین خاص در این حوزه به تصویب رسانیدند.کلرادو، ایلیونیز و ورمونت، کارگروه ها یا کمیسیون هایی را در زمینه مطالعات هوش مصنوعی ایجاد نموده اند. ایالت ایلیونز قانونی را به تصویب رسانیده است که (( قانون مصاحبه ویدیویی هوش مصنوعی) را که بدوا در سال 2021 میلادی به تصویب رسیده بود، مورد بازنگری قرار می دهد. حتی در برخی از ایالات آمریکا ضمانت اجراهای حقوقی و کیفری برای نقض هوش مصنوعی لحاظ شده است از جمله ایالت کالیفرنیا با تصویب قانونی تحت عنوان (( قانون طراحی متناسب با سن)) به این امر ضمانت اجرا بخشیده است که در صورتی که از فناوری مبتنی بر هوش مصنوعی متعلق به یک شخص حقیقی یا حقوقی سوءاستفاده شود، مسئولیت مدنی و کیفری برای شخص سوءاستفاده کننده درنظر گرفته می شود.
علاوه بر این، دولت فدرال آمریکا پیش نویسی را با عنوان (( منشور حقوق هوش مصنوعی)) تدوین نموده است که بر مبنای آن، حقوق و تکالیف عمومی و دارندگان فناوری های مرتبط با هوش مصنوعی در آن گنجانده شده است. البته رویکردی که در این منشور دنبال شده است، به حداقل رساندن هرگونه آسیبی بوده است که می تواند به واسطه ظهور هوش مصنوعی پدید آید. در این منشور، دستورالعمل هایی راجع به نحوه حفاظت از داده ها، به حداقل رساندن ریسک های جانبداری از هوش مصنوعی و کمتر نمودن کاربرد نظارتی هوش مصنوعی گنجانده شده است. هیچ اقدام اجرایی در این منشور پیش بینی نشده است بلکه صرفا دربردارنده دستورالعمل هایی برای سازمان ها و شرکت هایی است که پیشرو در حوزه هوش مصنوعی هستند.
اتحادیه اروپایی نیز بر این اعتقاد است که به صورت کلی برای پیشرفت در زمینه جامعه اطلاعاتی دیجیتال که یکی از اصول اساسی اتحادیه اروپایی در محیط سایبری است، قانون گذاری در زمینه نهاد هوش مصنوعی ضروری و اجتناب ناپذیر است و پیش شرط این موضوع، ارایه یک تعریف جامع و مانع از هوش مصنوعی است. البته اتحادیه دارای آیین نامه هایی در زمینه هوش مصنوعی نیز است . از جمله، آیین نامه عمومی حفاظت از داده های اتحادیه اروپایی یکی از مهم ترین اسناد بین المللی ناظر بر هوش مصنوعی است که اتحادیه ها یا سایر ارکان را تشویق می نماید تا قواعد اخلاقی را به منظور تسهیل اعمال موثر و مناسب در حوزه هوش مصنوعی تسهیل نمایند. بند دو ماده چهل این آیین نامه، چندین موضوع را برمی شمرد که یکی از آنها هوش مصنوعی است. در هر صورت، مقررات فوق الذکر دارای ایراداتی است از جمله می توان به کلی گویی، عدم پیش بینی ساز و کارهای اساسی در ایجاد شفافیت در ساز و کار عملکرد اشخاص و ابزارهای مرتبط با حوزه پردازش داده های خصوصی اشخاص می باشد.
هوش مصنوعی عمدتا در سطح کشورهای پیشرفته یا همان توسعه یافته، رشد و توسعه زیادی داشته است و کشورهای در حال توسعه در این روند، نقش موثری را در مقایسه با کشورهای مارالذکر ایفاء نمی کنند. در عین حال می توان به موارد ذیل اشاره نمود.
نهایتا باید گفت در قوانین فعلی که در حوزه صنایع دفاعی در ایران وجود دارد، هیچ تعریفی از هوش مصنوعی دیده نمی شود با این حال در لایحه جامع حقوق مالکیت فکری که در حال حاضر، مراحل تصویب خود را در مجلس شورای اسلامی طی می نماید، هوش مصنوعی به عنوان یک اثر پدیدآمده خودکار اشاره شده است .
در هر صورت، در دکترین حقوقی ایران تعاریفی دیده می شود هم چون این که هوش مصنوعی را یک پدیده برامده علوم مهندسی و فناوری می دانند که ویژگی جمعی رایانه ها، روبات ها و به صورت کلی، تمامی سامانه های رایانه ای است که برای انجام فعالیت های یکسان یادگیری و تصمیم سازی برنامه ریزی شده باشد.
منابع :
1-کتب
1-السنهوري ، عبدالرزاق احمد ؛ الوسيط في شرح القانون المدني ، جلد دوم ، چاپ لبنان
2-جعفري لنگرودي، محمد جعفر ، ترمينولوژي حقوقي ، چاپ دهم، گنج دانش، تهران،1378،
3-صفار، محمد جواد، شخصيت حقوقي، چاپ اول، دانا، تهران: 1373
4-كاتوزيان، ناصر، حقوق مدني، ضمان قهري مسئوليت مدني چاپ دوم انتشارات دانشگاه تهران ، تهران، 1369
5-كاتوزيان، ناصر، ضمان قهري، مسئوليت مدني، انتشارات دانشگاه تهران، چاپ اول، زمستا ن74،
6-لور راسا، میشل، مسئولیت مدنی، ترجمه محمد اشتری، تهران، نشر حقوق‌دان، چاپ اول، 1375ش،
7-محمدجعفر، جعفري لنگرودي، ترمينولوژي حقوق، شماره 5123،
8-ملكوتي رسول، مسئوليت مدني دولت چاپ اول، مجد تهران96،
9-ميشل لوراسا، مسئوليت مدني، ترجمه محمد اشتري، تهران نشر حقوقدانان 1375،
2-مقالات
1- ابراهیم پور، مجید، «گزیده منشور جهانی حق به شهر»، انسان شناسی و فرهنگ، شماره‌ی 14، 1393
2-امیر شاه کرمی، سید حمید ؛ بررسی کاربرد هوش مصنوعی در نظام حقوقی علائم تجاری، فصلنامه سیاست گذاری عمومی، دوره 8، شماره 3، پاییز 1401
3-بادینی، حسن و دیگران ؛ تاثیر اصل جبران کامل خسارات در شیوه های عینی و انتزاع ارزیابی خسارت در بیع بین المللی کالا، فصلنامه پژوهشنامه حقوق تطبیقی ، دوره 20، شماره 1، بهار 1395،
4-بادینی، حسن و فروزان بروجنی، فرناز؛ نگرش تحلیلی به امکان فسخ قرارداد با وجود ممکن بودن اجرای عین تعهد در حقوق ایران و آلمان، مجله مطالعات حقوقی دانشگاه شیراز، 10، 1، بهار (1397)
5-بنایی اسکویی، مجید؛ تعدیل قرارداد در صورت حدوث تعذر مالی، مجله مطالعات حقوق تطبیقی ، دوره 4، شماره 1، بهار و تابستان 1392
6-بیگدلی، سعید ؛ تطبیق دیدگاه آندره تنک در خصوص مبنای مسئولیت مدنی و قراردادی با موضع قانون مدنی ایران، پژوهشنامه حقوق اسلامی، سال پانزدهم، شماره دوم، پاییز و زمستان 1393،
7-پورسید، بهزاد و مطهرپور، محمود ؛ نقض تعهدات قراردادی و طرق جبران آن با مروری بر آرای قضایی و نظریات مشورتی اداره حقوقی ، فصلنامه تحقیقات قضایی، 1394
8-جنیدی، لعیا و تخشید، زهرا؛ دفاع در برابر مسئولیت مدنی ناشی از خطای بی احتیاطی بر مبنای تقصیر زیان دیده با تاکید بر حقوق آمریکا، فصلنامه تحقیقات حقوقی، شماره 92، 1398،
9-حاجی عزیزی، بیژن؛ روش های جبران خسارت در مسئولیت مدنی، دو ماهنامه علمی-پژوهشی دانشور، دانشگاه شاهد، دی 1380، سال نهم
10-خادم رضوی، قاسم ؛ نوعی، الیاس و مهرپویان، آزاده؛ رابطه سببیت در مسئولیت ناشی از بی احتیاطی؛ نگاهی تطبیقی به حقوق مسئولیت مدنی ایران و انگلستان ؛ فصلنامه پژوهش حقوق خصوصی، سال سوم، شماره دهم ، بهار 1394
11-خاني ، محمد مسئوليت مدني دولت، نشريه وكالت سال 1387 شماره 35-36
12-داورمنش، عباس، هوش، ماهنامه پیوند، شمارگان 89 و 90، 1365
13-راستاد، مجتبی؛ تعدیل ناشی از اجرای قرارداد در قراردادهای پیمانکاری، اولین کنفرانس پژوهش های نوین علمی در زمینه مدیریت، حسابداری، حقوق و علوم اجتماعی ،دانشگاه شیراز، 1396
14-رووف، علی؛ هوش چیست، مدارس کاراآمد، شماره هشتم، 1388
15-زارعی، محمد حسین و مولایی ، آیت ، 1392 ؛ آسیب شناسی ویژگی های قرارداد اداری ایران در مقایسه با حقوق آمریکا و انگلستان، فصلنامه دیدگاه های حقوق قضایی ، شماره 63
16-سرتیپ زاده، رحمت الله و غفاری، مجتبی ؛ ارکان و شرایط مسئولیت مدنی دولت برای جبران خسارت، کنفرانس ملی اندیشه های نوین و خلاق در مدیریت، حسابداری، مطالعات حقوقی و اجتماعی ، موسسه آموزشی علامه خویی
17-شعبانی، مهدی و باقری، احمد ؛ بازنگری فقهی در مشروعیت و پی آمد غبن حادث ، فصلنامه فقه و اصول، سال پنجاهم، شماره 1 ، شماره پیاپی 112، بهار 1397
18-صادقی، حسین و ناصر، مهدی؛ چالش های اخلاقی و حقوقی آیین نامه اتحادیه اروپا در ساز و کارهای هوش مصنوعی در حوزه سلامت، مجله اخلاق زیستی، دوره دهم، شماره سی و پنجم، 1399
19-صفری ، پرویز و صوفی قادری، معصومه ؛ فصلنامه فقه و مبانی حقوق اسلامی، سال هفتم ، شماره 21، پاییز 1393
20-علوی قزوینی، سیدعلی و وکیلی مقدم، محمد حسین ؛ بازنگری در مفاد قرارداد، فصلنامه فقه و حقوق اسلامی ، سال اول، شماره اول، پاییز-زمستان 1389
21-فراهتی، مرضیه و دیگران ؛ بررسی فقهی حقوقی طرق جبران خسارت ناشی از نقض تعهدات قراردادی در پرتو آموزه های اخلاقی ، مجله اخلاق زیستی ، ویژه نامه حقوق شهروندی ، پاییز 1397
22-فلاح زاده، علی محمد و پرسا، محمد، 1392 ؛ فسخ قرارداد پیمانکاری از ناحیه کارفرما، فصلنامه نقد -رای، سال دوم ، شماره چهارم و پنجم.
23-مرادزاده، حسن و رضوی، فهیمه سادات ؛ شیوه های جبران خسارت معنوی در زندگی مشترک زوجین، فصلنامه فقه و حقوق خانواده ، سال بیست و یکم، بهار و تابستان 1395، شماره 64
24-موسی حسینی، افسانه ؛ مسئولیت مدنی و مطالعه تطبیقی آن در حقوق ایران و آمریکا ، همایش مدیریت، اقتصاد، حسابداری و علوم انسانی ، 1398
25-نازی، مهدی و دیگران ؛ بررسی تقصیر زیان دیده در مسئولیت مدنی، دومین کنفرانس بین المللی نوآوری در علوم و تکنولوژی ، سنگاپور، 1395
26-نصیری، مرتضی و دیگران، مطالعه تطبیقی حق تعلیق و حق حبس در حقوق داخلی و قرارداد نمونه فیدیک، فصلنامه مدرس علوم انسانی، ویژه نامه حقوق، بهار 1384
27-نعمت اللهی، اسماعیل و دیگران ؛ خسارت های جانبی در نظام های حقوقی کامن لا، رمی-ژرمنی و ایران، فصلنامه حقوق تطبیقی ، سال پانزدهم ، شماره 2 ، پاییز و زمستان 1398
28-نیازی نخعی، علی ؛ جبران ضرر با توجه به قانون و فقه ، کنفرانس بین المللی هزاره سوم و علوم انسانی، 1397
3-پایان نامه
1-رضوانیان، صدیقه ؛ هوش مصنوعی در نظام مالکیت فکری، پایان نامه کارشناسی ارشد رشته حقوق مالکیت فکری ، دانشگاه قم، تابستان 1398
2-کیا، مائده السادات؛ هوش مصنوعی: موضوع حقوق شخصیت یا حقوق اختراع، پایان نامه کارشناسی ارشد حقوق مالکیت فکری، دانشگاه علامه طباطبایی، 1398
A-Books
1-Arvind, T. T. , ‘’ Contract Law ‘’ , Oxford University Press, 2019
2-Badini, Hassan (2005), Philosophy of Civil Liability, First Edition, Tehran, Publishing Company Publication,
3-Barfield, Woodrow and Pagallo, Ugo , “ Advanced Introduction to Law and Artificial Intelligence” , Edward Elgar Publishing, 2020
4-Brunner, Christoph, ‘’ Force Majeure and Hardship Under General Contract Principles: Exemption for Non-performance in International Arbitration ‘’ , Kluwer Law International B.V., 2009
5-Chakraborty, Utpal , “ Artificial Intelligence and the Fourth Industrial Revolution” , CRC Press, 2022
6-Hansen, Karen and Zenobia, Kent,( 2011) ” Civil Engineer’s Handbook of Professional Practic” , John Wiley & Sons
7-Hutchison, Andrew and Myburgh, Franziska, ‘’ Research Handbook on International Commercial Contracts ‘’ , Edward Elgar Publishing, 2020
8-Kurki, Visa A.J. and Pietrzykowski, Tomasz, “ Legal Personhood: Animals, Artificial Intelligence and the Unborn” , Springer, 2017
9- Lin, Patrick et al , ‘’ Robot Ethics: The Ethical and Social Implications of Robotics ‘’ , MIT Press, 2012
Mastracci, Marco, ‘’ The International Distribution Agreement: A Practical Approach 10-to Transnational Contracting across the European Union, the United States and Latin America (2nd edition) ‘’ , Universal-Publishers, 2020 , p 280 .
11-McKendrick, Ewan, ‘’ Force Majeure and Frustration of Contract ‘’ , CRC Press, 2013
12-Montasari, Reza, “ Artificial Intelligence and National Security” , Springer Nature, 2022,
13- Nissan, Ephraim, “ Computer Applications for Handling Legal Evidence, Police Investigation and Case Argumentation” , Springer Science & Business Media, 2012.
14-Ramus, Jack; Birchall, Simon and Griffiths, Phil ,( 2006) ” Contract Practice for Surveyors ” , Routledge
15-Rébé, Nathalie , “ Artificial Intelligence: Robot Law, Policy and Ethics” , BRILL, 2021,
16-Sindberg, Kim, ‘’ CoronAdvice: covid-19 from a Trade Finance perspective ‘’ , BoD – Books on Demand, 2020
17-Tuffery, Stephane , “ Deep Learning: From Big Data to Artificial Intelligence with R” , John Wiley & Sons, 2022
18-Ugail, Hassan, “ Deep Learning in Visual Computing: Explanations and Examples” , CRC Press, 2022
19-Walters, Robert and Novak, Marko, “ Cyber Security, Artificial Intelligence, Data Protection & the Law” , Springer Nature, 2021
20-Yi, Chae-min and Lee, Jaemin, “ Artificial Intelligence and International Law” , Springer Nature, 2022
21-Yılmaztekin, Hasan Kadir , “ Artificial Intelligence, Design Law and Fashion” , Taylor & Francis, 2022
22-Zavrsnik, Ales and Simoncic, Katja, “ Artificial intelligence, social harms and human rights” , Palgrave Macmillan, Cham, 2023
23-Zekos, Georgios I. , “ Economics and Law of Artificial Intelligence: Finance, Economic Impacts, Risk Management and Governance” , Springer Nature, 2021
B-Articles
1-Dietrich Maskow, Hardship and Force Majeure, 1992 Am. J. Comp. L. 657, 658 (1992).,
2-Draetta, Ugo, Force Majeure Clauses in International Trade Practice, 5 Int’l Bus. L. J. 547 (1996).,
3-European Parliament , ‘’ Atrifical Intellegence and Civil Libility ‘’ , Policy Department for Citizens’ Rights and Constitutional Affairs Directorate-General for Internal Policies
4-European Parliament , ‘’ Civil Rules on Robotics ‘’ , May 2017
5-M. (J.) v. Bradley (sub nom. M. (J.) v. B. (W.))(2004), 71 O.R. (3d) 171 (C.A.) at para. 65 [QL]
6-P.J.M. DeClercq, Modern Analysis of the Legal Effect of Force Majeure Clauses in Situations of Commercial Impracticability, 15 J.L. & Com. 213, 255 note 18 (1995).
7-Potember ,Richard , , “Perspectives On Research In Artificial Intelligence And General Relavant To Dod”, 2017
8-Rajan ,K., Saffiotti,. A.,(2017),“Towards A Science Of Integrated Ai And Robotics”,Artif. Intell,P 1.Http://Dx.Doi.Org/10.1016/J.Artint.2017.03.00
9-Santosusoo,A et al , ‘’ Robots, market and civil liability: a European perspective ‘’ , Confrence Paper , 2012
C-Documents
3-Artifical Intellegence at Google : Our Principles “
4-Artificial Intellgence Action Plan
5-Artificial Intelligence Video Interview Act
6-Artificial Intelligence Video Interview Act
7-Ethical Principles for Artificial Intelligence
8-General Data Protection Regulation ( GDPR)
9-Guidelines for the Use of Artifical Intellegence “
10-Restatement (Second) of Contracts 261 (1979).
11-the California Age-Appropriate Design Code Act
12-the California Age-Appropriate Design Code Act
13-The UNESCO Recommendation on the Ethics of Artificial Intelligence
14-Uniform Commercial Code
15-Uniform Commercial Code, 2-615 (1979)
[1] https://rc.majlis.ir/fa/law/show/99711
[2] https://ara.jri.ac.ir/Judge/Text/4571