فرخنده آشوری – فارس آگاه

همایش یک‌روزه «هوش مصنوعی، پیشگیری از جرم و آسیب‌های اجتماعی؛ فرصت‌ها و چالش‌ها» روز گذشته، ۲۵ مردادماه، با حضور جمعی از مسئولان قضایی، استادان دانشگاه، پژوهشگران و کارشناسان حوزه‌های حقوق، جرم‌شناسی، فناوری و علوم اجتماعی برگزار شد.

در این همایش، سخنرانان با بررسی ظرفیت‌ها و مخاطرات استفاده از هوش مصنوعی در نظام قضایی و پیشگیری از وقوع جرم، بر ضرورت بهره‌گیری هدفمند، اخلاق‌محور، فقهی و حقوقی از این فناوری تأکید کردند و هشدار دادند که هوش مصنوعی نباید جایگزین تصمیم‌گیری انسانی شود، بلکه باید به‌عنوان «دستیار تصمیم‌ساز» در خدمت عدالت و حقوق شهروندان قرار گیرد.

هوش مصنوعی نباید صرفاً ابزار اداری باشد

دکتر کامران باقری لنکرانی، رئیس مرکز تحقیقات سیاست‌گذاری سلامت، در این همایش با اشاره به تأکیدات مطرح‌شده در پیام مقام معظم رهبری به مناسبت هفته قوه قضاییه، گفت: استفاده از فناوری‌های نوین در کنار عوامل معنوی و حرکت از «متن به فعل» در اجرای سند تحول قوه قضاییه، از جمله نکات مهمی است که می‌تواند با بهره‌گیری درست از هوش مصنوعی محقق شود.

وی تأکید کرد: هوش مصنوعی نباید صرفاً به‌عنوان یک ابزار اداری مورد توجه قرار گیرد، بلکه می‌تواند به یک سیستم پشتیبان تصمیم‌گیری و ناظر بی‌طرف تبدیل شود و در تسریع رسیدگی‌ها، کاهش خطا و ارتقای کیفیت خدمات قضایی نقش داشته باشد.

لنکرانی از امکان ایجاد «دستیار هوشمند» برای تهیه پیش‌نویس‌ها، سیستم هوشمند مدیریت پرونده‌ها، اولویت‌بندی خودکار پرونده‌ها بر اساس میزان فوریت و حقوق افراد و نیز حذف فرآیندهای کاغذی به‌عنوان بخشی از ظرفیت‌های هوش مصنوعی در دستگاه قضایی نام برد.

به گفته وی، پرونده‌های مرتبط با معیشت مردم و حقوق افراد آسیب‌پذیر می‌توانند با کمک سامانه‌های هوشمند در اولویت رسیدگی قرار گیرند.

وی همچنین استفاده از هوش مصنوعی برای شناسایی تناقض‌ها در آرا، مقایسه آرای مشابه در سراسر کشور و تحلیل مستندات پیچیده و حجیم را از دیگر ظرفیت‌های این فناوری دانست و بیان کرد: در پرونده‌هایی که هزاران صفحه مستندات دارند، هوش مصنوعی می‌تواند به استخراج اطلاعات، شناسایی تناقض‌ها و تحلیل ادعاهای طرفین کمک کند.

لنکرانی ادامه داد: تخصیص هوشمند و تصادفی پرونده‌ها، بهره‌گیری از فناوری‌هایی مانند بلاک‌چین برای افزایش شفافیت و همچنین پایش رفتاری پرونده‌ها می‌تواند در ارتقای سلامت قضایی مؤثر باشد؛ به‌گونه‌ای که اگر پرونده‌ای برخلاف روند معمول با سرعت غیرعادی یا تأخیر غیرمتعارف پیش رفت، سامانه بتواند آن را برای بررسی بیشتر شناسایی کند.

وی استفاده از هوش مصنوعی برای رصد جریان‌های مالی، تحلیل شبکه‌های ارتباطی و نیز احقاق حقوق عامه را از دیگر کاربردهای مهم دانست و خاطرنشان کرد: در حوزه‌هایی مانند محیط زیست و اقتصاد نیز می‌توان از پایش هوشمند و تصاویر ماهواره‌ای برای شناسایی اراضی تصرف‌شده و تخلفات مشابه استفاده کرد.

از واکنش به جرم تا پیش‌بینی عوامل جرم

رئیس مرکز تحقیقات سیاست‌گذاری سلامت با بیان اینکه یکی از پیچیده‌ترین تقابل‌های عصر حاضر، تقابل میان امنیت و حقوق و آزادی‌های انسانی است، متذکر شد: پارادایم امنیتی جهان در حال حرکت از واکنش به جرم به سمت پیش‌بینی عوامل مؤثر بر وقوع جرم است، اما پرسش اساسی این است که آیا می‌توان اجازه داد یک الگوریتم درباره آینده و نیت یک انسان قضاوت کند؟

وی تصریح کرد: هوش مصنوعی نباید صرفاً یک ابزار نظارتی تلقی شود؛ اگر قرار است مطالبات مربوط به مبارزه با فساد، تسریع رسیدگی و دسترسی عادلانه به حقوق مردم محقق شود، هوش مصنوعی باید در خدمت عدالت باشد، نه اینکه صرفاً به ابزاری برای کنترل افراد تبدیل شود.

لنکرانی با اشاره به تجربه کشورهای مختلف در زمینه استفاده از هوش مصنوعی یاداور شد: برخی کشورها مانند چین رویکردی امنیت‌محور و گسترده نسبت به پایش عرصه‌های خصوصی افراد دارند، در حالی که در برخی الگوهای دیگر تلاش شده است به جای شناسایی مجرم، زمینه‌ها و عوامل اجتماعی شکل‌گیری جرم شناسایی شود.

وی با تأکید بر ضرورت توجه به مبانی حقوقی و قانون اساسی کشور افزود: ایران باید به سمت فناوری اخلاق‌محور و عدالت‌محور حرکت کند؛ رویکردی که در آن اصل برائت و حق حریم خصوصی مورد غفلت قرار نگیرد.

لنکرانی چهار محور را برای استفاده صحیح از هوش مصنوعی در حوزه قضایی و پیشگیری از جرم پیشنهاد کرد: نخست، بومی‌سازی فناوری با محوریت اخلاق و عدالت؛ به این معنا که الگوهای کشورهای دیگر نباید بدون توجه به شرایط حقوقی، فرهنگی و اجتماعی ایران کپی‌برداری شوند؛ دوم، حضور و نظارت الزامی انسان در فرآیند تصمیم‌گیری؛ به‌گونه‌ای که هیچ تصمیم قهری، بازداشت یا اقدام محدودکننده صرفاً بر اساس خروجی یک ماشین انجام نشود و هوش مصنوعی «کمک‌کار» انسان باشد، نه جایگزین او؛ سوم، شفافیت قانونی و کاهش جرم‌انگاری؛ قوانین باید حدود ورود هوش مصنوعی به حریم خصوصی را مشخص کنند و از این فناوری برای شناسایی ریشه‌های اجتماعی جرم و حرکت به سمت جرم‌انگاری حداقلی بهره گرفته شود و چهارم، قرار گرفتن هوش مصنوعی در خدمت تظلم‌دیدگان و دسترسی به عدالت؛ یعنی این فناوری علاوه بر حوزه‌های انتظامی و پیشگیری، در دادگاه‌ها و فرآیندهای قضایی نیز برای تسریع رسیدگی و پاسخگویی به مطالبات مردم به کار گرفته شود.

وی با تأکید بر اینکه فناوری و هوشمندسازی بدون اخلاق، شتاب‌دهنده‌ای به سوی ناکجاآباد است، یادآور شد: هوش مصنوعی می‌تواند جامعه را به سمت عدالت بیشتر سوق دهد، مشروط بر اینکه منطق ریاضی جایگزین منطق انسانی و اخلاقی نشود.

هوش مصنوعی می‌تواند تیغ دولبه باشد

حجت‌الاسلام والمسلمین صدرالله رجایی‌نسب، رئیس کل دادگستری فارس، نیز در این همایش، هوش مصنوعی را یکی از چالش‌برانگیزترین و در عین حال امیدبخش‌ترین موضوعات حقوقی عصر حاضر دانست و گفت: استفاده از فناوری‌های جدید، مورد تأکید مقام معظم رهبری است و قوه قضاییه نیز باید در مسیر تحول خود به این ظرفیت توجه جدی داشته باشد.

وی پرسش اصلی این حوزه را چنین مطرح کرد: آیا هوش مصنوعی فرصتی طلایی برای ارتقای امنیت و پیشگیری از جرم است یا می‌تواند تهدیدی جدی برای حقوق، آزادی‌های مشروع و حقوق شهروندی باشد؟

رجایی‌نسب پاسخ به این پرسش را وابسته به نحوه نگاه و استفاده انسان از این فناوری دانست و افزود: هوش مصنوعی مانند یک «تیغ دولبه» است؛ از یک سو می‌تواند در احقاق سریع‌تر حقوق مردم، کاهش هزینه‌ها و کوتاه شدن فرآیندهای قضایی مؤثر باشد و از سوی دیگر، در صورت استفاده نادرست، به ابزاری برای ایجاد ظلم‌های جدید تبدیل شود.

وی با بیان اینکه بخش فرصت‌های هوش مصنوعی در مجموع بر تهدیدهای آن غلبه دارد، بر ضرورت فراهم کردن زیرساخت‌های حقوقی، اخلاقی و فقهی برای بهره‌گیری از این ظرفیت تأکید کرد.

کاربرد هوش مصنوعی از تشکیل پرونده تا اجرای احکام

رئیس کل دادگستری فارس اظهار کرد: هوش مصنوعی می‌تواند در مراحل مختلف فرآیند قضایی، از تشکیل پرونده و فعالیت‌های پلیسی تا پیشگیری از وقوع جرم، صدور حکم و اجرای احکام مورد استفاده قرار گیرد.

وی شناسایی مناطق پرخطر، تحلیل رفتارهای مجرمانه، ردیابی مجرمان، تشخیص چهره، کمک به تکمیل تحقیقات مقدماتی و جمع‌آوری اسناد و مدارک را از جمله کاربردهای آن در حوزه پلیس برشمرد.

رجایی‌نسب تاکید کرد: در حوزه پیشگیری نیز می‌توان با استفاده از هوش مصنوعی عوامل اجتماعی مؤثر بر وقوع جرم، از جمله فقر، محرومیت، شرایط جغرافیایی و حاشیه‌نشینی را زودتر شناسایی کرد.

وی همچنین از ظرفیت هوش مصنوعی در حوزه قضا، از دستیار قاضی گرفته تا کمک به تعیین قرارهای تأمین کیفری، پیش‌بینی احتمالی برخی زمینه‌های وقوع جرم و تعیین مجازات متناسب با داده‌های پرونده سخن گفت و افزود: کاهش خطاهای انسانی و تحلیل سریع مستندات می‌تواند در نهایت به افزایش رضایت مردم از دستگاه قضایی منجر شود.

چهار پیشنهاد برای حکمرانی هوشمند قضایی

رئیس کل دادگستری فارس با تأکید بر ضرورت تدوین برنامه‌های اساسی، چهار پیشنهاد را مطرح کرد: ایجاد کمیته فقهی ـ حقوقی هوش مصنوعی در قوه قضاییه برای نظارت بر نحوه و حدود کاربرد این فناوری؛ تدوین سند ملی هوش مصنوعی در نظام کیفری ایران؛ ایجاد مرکز داده‌های جرم‌شناختی برای جمع‌آوری، تحلیل و نگهداری امن داده‌های مرتبط با جرایم؛ و آموزش قضات و کارکنان دادگستری در زمینه سواد دیجیتال و کاربرد هوش مصنوعی.

رجایی‌نسب تأکید کرد که استفاده صحیح از این فناوری می‌تواند قوه قضاییه را از وضعیت سنتی و نیمه‌سنتی به سمت یک نظام قضایی به‌روز و هوشمند سوق دهد و زمینه حکمرانی قضایی مبتنی بر عقل، شرع و فناوری‌های نوین را فراهم کند.

حکمرانی هوش مصنوعی باید حقوقی و فقهی باشد

آیت‌الله لطف‌الله دژکام، نماینده ولی‌فقیه در استان فارس و امام جمعه شیراز، با تأکید بر ضرورت یادگیری فناوری‌های نوین، گفت: اگر قرار است فناوری‌های جدید در دستگاه قضایی مورد استفاده قرار گیرند، روحانیون، دانشگاهیان، مسئولان و فعالان اجتماعی نیز باید نسبت به این فناوری‌ها شناخت و آگاهی داشته باشند.

وی تصریح کرد: خود من نیز برای یادگیری این مباحث در چنین نشست‌هایی شرکت می‌کنم، زیرا نمی‌توان انتظار داشت دستگاه قضایی خود را به‌روز کند اما دیگر نهادهای جامعه همچنان با نگاه و دانش چند دهه گذشته با مسائل برخورد کنند.

دژکام با تأکید بر ضرورت ارتباط میان حوزه، دانشگاه، دستگاه‌های اجرایی و قضایی و نهادهای فرهنگی و اجتماعی، تاکید کرد: هماهنگی میان این بخش‌ها می‌تواند کشور را در مسیر پیشرفت و تحقق تمدن نوین اسلامی پیش ببرد.

اخلاق در نظام اسلامی؛ الزام شرعی و حقوقی

نماینده ولی‌فقیه در فارس با اشاره به مفهوم «حکمرانی اخلاقی» بیان کرد: در فرهنگ اسلامی و ایرانی، اخلاق صرفاً مجموعه‌ای از توصیه‌ها و پندها نیست، بلکه احکام شرعی و حقوقی نیز دارای جنبه الزام‌آور هستند.

وی پیشنهاد کرد: مفهوم حکمرانی اخلاقی در حوزه هوش مصنوعی با رویکردی «حقوقی و فقهی» دنبال شود و هر فرد یا نهادی که از هوش مصنوعی استفاده می‌کند باید بداند استفاده او از این فناوری از نظر شرعی و قانونی چه حکمی دارد.

دژکام ابراز کرد: اگر هوش مصنوعی برای شناسایی الگوهای جرم، شناسایی افراد مظنون یا پیش‌بینی رفتارهای مجرمانه مورد استفاده قرار گیرد، باید مشخص شود که این اقدام در چه شرایطی از نظر شرعی و قانونی مجاز است.

وی با اشاره به موضوعاتی مانند شنود و حفظ اسرار پزشکی خاطرنشان کرد: در برخی موارد ممکن است استفاده از داده‌ها برای پیشگیری از وقوع یک جرم ضروری باشد، اما تشخیص اینکه در چه شرایطی این اقدام مجاز است، باید بر عهده نظام حقوقی و فقهی باشد.

مسئولیت خطای هوش مصنوعی با چه کسی است؟

دژکام یکی از مسائل مهم آینده را تعیین مسئولیت ناشی از خطاهای هوش مصنوعی دانست و گفت: اگر قاضی یا پزشک از یک سامانه هوش مصنوعی استفاده کند و تصمیم اتخاذشده در نهایت موجب خسارت جانی یا مالی به شخص ثالث شود، باید مشخص باشد چه کسی مسئول است.

وی با اشاره به مباحث مطرح‌شده در حقوق و فقه درباره «مباشر و سبب» تصریح کرد: در نظام حقوقی و فقهی ما سابقه طولانی در بررسی مسئولیت ناشی از فعل مباشر و سبب وجود دارد و همین مباحث می‌تواند در تعیین مسئولیت ناشی از خطاهای هوش مصنوعی نیز مورد استفاده قرار گیرد.

وی همچنین به مفهوم «هوش مصنوعی توضیح‌پذیر» اشاره کرد و ادامه داد: هرچه کاربر بتواند دلیل تصمیم هوش مصنوعی را بهتر درک کند، نقش و مسئولیت کاربر در فرآیند تصمیم‌گیری نیز اهمیت بیشتری پیدا می‌کند.

دژکام تأکید کرد: توسعه فناوری باید همزمان با توسعه حقوق و فقه آن پیش برود و هرجا فناوری وارد عرصه جدیدی می‌شود، باید در کنار آن، مباحث حقوقی و فقهی نیز رشد کند.

باید زمان پیشگیری از جرم را به عقب ببریم

محمدرضا قنبری، مدیرکل دفتر برنامه‌ریزی، مطالعات اجتماعی و جرم‌شناسی معاونت اجتماعی و پیشگیری از وقوع جرم قوه قضاییه، نیز با تأکید بر ظرفیت هوش مصنوعی در پیشگیری از جرم، گفت: باید با استفاده از فناوری، زمان مداخله را به قبل از وقوع جرم بازگردانیم تا به جای واکنش به معلول، عوامل شکل‌دهنده جرم و آسیب اجتماعی شناسایی و مدیریت شوند.

وی تأکید کرد که هوش مصنوعی باید در خدمت انسان و برای حمایت از جامعه باشد، نه اینکه به ابزار کنترل و محدودسازی انسان تبدیل شود.

قنبری همچنین بر این نکته تأکید کرد که هوش مصنوعی باید «دستیار» انسان باشد و نه جایگزین او.

دانشگاه جهرم؛ حلقه اتصال علم و نیازهای قضایی

دکتر محمد قناعتیان، رئیس دانشگاه جهرم، نیز در این همایش گفت: حضور مسئولان قضایی و دانشگاهیان در کنار یکدیگر پیام روشنی دارد؛ مسائل امنیتی و حقوقی کشور دیگر نمی‌تواند صرفاً با نگاه سنتی و پشت درهای بسته حل شود و نگاه علمی و دانشگاهی در این حوزه نقشی بی‌بدیل دارد.

وی با اشاره به ظرفیت‌های علمی دانشگاه جهرم در حوزه‌های فنی، مهندسی، حقوق و علوم اجتماعی، اظهار کرد: این دانشگاه مصمم است پلی میان فناوری‌های روز، از جمله یادگیری ماشین و مدل‌های زبانی بزرگ، با نظام عدالت کیفری و انتظامی کشور ایجاد کند.

قناعتیان افزود: راهکارهای پیشگیرانه هوشمند نه صرفاً در کتابخانه‌های دانشگاهی و نه فقط در اتاق‌های عملیاتی، بلکه در تعامل نزدیک پژوهشگران با متولیان امنیت و عدالت شکل می‌گیرد.

وی برگزاری کارگاه‌های آموزشی در زمینه کاربرد هوش مصنوعی در فعالیت‌های حقوقی و حقوق در عصر هوش مصنوعی را بخشی از برنامه این همایش عنوان کرد و افزود: مقالات و سخنرانی‌های تخصصی نیز طیف گسترده‌ای از موضوعات، از تشخیص هویت و تشخیص ناهنجاری‌های ویدیویی تا مسئولیت کیفری تصمیمات خودمختار هوش مصنوعی و حکمرانی هوشمند را پوشش می‌دهند.

رئیس دانشگاه جهرم تأکید کرد: هوش مصنوعی صرفاً یک ابزار تکنولوژیک نیست؛ می‌تواند هم ابزار مجرم و هم ابزار پلیس باشد و تشخیص این مرز نیازمند درک عمیق فنی، حقوقی و اخلاقی است.

دبیر علمی همایش: ۱۲۶ مقاله دریافت شد

دکتر محمد عباس‌زاده جهرمی، دبیر علمی همایش، نیز از برگزاری این رویداد پس از ماه‌ها فعالیت علمی و اجرایی خبر داد و گفت: برای آماده‌سازی همایش، شورای فضای مجازی استانداری بیش از ۵۰ ساعت جلسه برگزار کرد تا محورهای علمی و مقالات از کیفیت و پشتوانه علمی لازم برخوردار باشند.

وی افزود: برگزاری همایش به دلیل برخی تحولات و شرایط کشور با تأخیر مواجه شد، اما در نهایت ۱۲۶ مقاله به دبیرخانه رسید که ۴۰ مقاله پس از ارزیابی برای ارائه در همایش پذیرفته شد.

عباس‌زاده جهرمی عنوان کرد: ویژگی مهم این همایش، بین‌رشته‌ای و بین‌دستگاهی بودن آن است؛ زیرا موضوع هوش مصنوعی در نقطه تلاقی فناوری، جامعه و حکمرانی قرار دارد و همین مسئله، برگزاری چنین رویدادی را هم پیچیده‌تر و هم ضروری‌تر می‌کند.

وی با اشاره به محورهای علمی همایش اظهار کرد: این رویداد را باید گام ابتدایی برای ایجاد یک مسیر مستمر پژوهشی دانست و انتظار می‌رود سایر مراکز علمی و دستگاه‌های اجرایی و قضایی نیز ادامه این مسیر را دنبال کنند.

تأکید بر استمرار همکاری دانشگاه و دستگاه قضایی

در مجموع، سخنرانان این همایش بر یک نکته مشترک تأکید داشتند: هوش مصنوعی نه یک فناوری صرفاً فنی، بلکه پدیده‌ای چندوجهی است که آثار آن حوزه‌های حقوق، امنیت، عدالت، جامعه، اخلاق و حکمرانی را به‌طور همزمان تحت تأثیر قرار می‌دهد.

بر اساس دیدگاه‌های مطرح‌شده، استفاده از این فناوری در پیشگیری از وقوع جرم می‌تواند از واکنش پس از وقوع جرم به شناسایی زودهنگام عوامل اجتماعی و محیطی مؤثر بر جرم تغییر مسیر دهد؛ با این حال، توسعه چنین سامانه‌هایی بدون توجه به حریم خصوصی، اصل برائت، عدالت، شفافیت، سوگیری الگوریتمی و مسئولیت ناشی از خطاهای احتمالی، می‌تواند خود به منشأ آسیب‌های جدید تبدیل شود.

جمع‌بندی این همایش نشان می‌دهد که مسیر پیش‌رو، نه پذیرش بی‌قیدوشرط هوش مصنوعی و نه کنار گذاشتن آن، بلکه طراحی و استفاده مسئولانه از فناوری در چارچوب قانون، فقه، اخلاق و کرامت انسانی است؛ مسیری که در صورت تحقق می‌تواند هوش مصنوعی را از یک ابزار صرفاً فناورانه به یکی از مهم‌ترین دستیاران نظام قضایی برای تسریع عدالت، کاهش خطا و احقاق حقوق مردم تبدیل کند.