هوش مصنوعی جایگزین قاضی نمی‌شود؛ هشدار نسبت به اطلاعات محرمانه

به گزارش خبرگزاری مهر، با گسترش کاربرد هوش مصنوعی در نظام‌های حکمرانی، استفاده از این فناوری در دستگاه قضایی نیز به یکی از موضوعات مهم تبدیل شده است. کارشناسان معتقدند هوش مصنوعی می‌تواند در تسریع رسیدگی به پرونده‌ها، کاهش اطاله دادرسی، مدیریت هوشمند پرونده‌ها و ارتقای کیفیت خدمات قضایی نقش مؤثری ایفا کند، اما بهره‌گیری از آن مستلزم تدوین قوانین، رعایت ملاحظات حقوقی و اخلاقی و حفظ محرمانگی اطلاعات است.

در همین راستا، علی زینالی، رئیس شعبه رسیدگی به پرونده‌های ارزهای دیجیتال محاکم تهران، با اشاره به اقدامات انجام‌شده در قوه قضاییه اظهار کرد که راه‌اندازی سامانه‌های هوشمند از جمله «سمپ هوشمند» و اجرای طرح ارجاع هوشمند در برخی مجتمع‌های قضایی، از گام‌های مثبت در مسیر تحقق دادرسی هوشمند به شمار می‌رود. به گفته وی، با وجود این اقدامات، توسعه آموزش‌های تخصصی در حوزه هوش مصنوعی، به‌ویژه از سوی دانشگاه علوم قضایی، برای تربیت قضات متخصص و متناسب با نیازهای جدید ضروری است.

زینالی با اشاره به وضعیت قانون‌گذاری در این حوزه گفت: در حال حاضر «سند ملی هوش مصنوعی» و دستورالعمل‌های مرتبط با استفاده از هوش مصنوعی در پژوهش از جمله اسناد موجود هستند، اما هنوز قوانین تخصصی برای رسیدگی به جرایم و دعاوی ناشی از این فناوری تصویب نشده است.

وی تأکید کرد: با توجه به افزایش پرونده‌های مرتبط با هوش مصنوعی، استارتاپ‌ها و فناوری‌های نوین، لازم است مجلس هرچه سریع‌تر چارچوب‌های قانونی مشخصی را برای این حوزه تدوین کند تا از بروز خلأهای حقوقی جلوگیری شود.

هوش مصنوعی جایگزین قاضی نمی‌شود

رئیس شعبه ارزهای دیجیتال محاکم تهران با تأکید بر اینکه هوش مصنوعی نمی‌تواند جایگزین قاضی در صدور رأی شود، گفت: این فناوری صرفاً ابزاری کمکی و مشورتی است و فاقد قدرت تشخیص شرایط انسانی، ارزیابی احساسات، بررسی اوضاع و احوال خاص هر پرونده و تعیین مجازات متناسب است. از این رو تصمیم نهایی همچنان باید توسط قاضی اتخاذ شود.

هشدار درباره اطلاعات محرمانه

وی همچنین نسبت به انتشار اطلاعات حساس در سامانه‌های هوش مصنوعی هشدار داد و توصیه کرد کاربران از وارد کردن اطلاعاتی مانند شماره ملی، اطلاعات بانکی، گذرواژه‌ها، اسناد هویتی، مکاتبات حقوقی، اطلاعات محرمانه شغلی و خانوادگی و سایر داده‌های حساس در این سامانه‌ها خودداری کنند؛ زیرا احتمال سوءاستفاده از این اطلاعات در صورت نشت داده‌ها وجود دارد.

شیوه‌های نوین کلاهبرداری با هوش مصنوعی

زینالی با اشاره به افزایش جرایم مرتبط با هوش مصنوعی، از ارجاع چند پرونده در این زمینه به دستگاه قضایی خبر داد و مهم‌ترین روش‌های سوءاستفاده را چنین برشمرد:

انتشار نسخه‌های جعلی نرم‌افزارهای بانکی یا کیف پول‌های رمزارزی از طریق پیشنهادهای گمراه‌کننده در فضای مجازی که پس از نصب، امکان سرقت اطلاعات و دارایی کاربران را فراهم می‌کند.

هدایت کاربران به دانلود بدافزارها با استفاده از پاسخ‌ها یا پیشنهادهای برخی چت‌بات‌ها و در نتیجه خالی شدن حساب‌های بانکی یا کیف پول‌های دیجیتال.

بازسازی اثر انگشت از روی تصاویر منتشرشده در فضای مجازی و استفاده از آن برای دسترسی غیرمجاز به تلفن همراه، حساب‌های کاربری و شبکه‌های اجتماعی.

تولید تصاویر و ویدئوهای جعلی با هدف انتشار اخبار کذب، تشویش اذهان عمومی یا سوءاستفاده‌های امنیتی.

وی توصیه کرد: کاربران نرم‌افزارهای بانکی و مالی را تنها از منابع رسمی دریافت کنند، از انتشار تصاویر واضح انگشتان خودداری کنند و برای افزایش امنیت، از رمزهای عبور قوی به جای اتکا صرف به اثر انگشت استفاده کنند.

کلاهبرداری با هویت جعلی ساخته‌شده توسط هوش مصنوعی

زینالی در پایان به نمونه‌ای از پرونده‌های اخیر اشاره کرد و گفت: در یکی از این پرونده‌ها، متهمان با استفاده از ابزارهای هوش مصنوعی تصویری واقعی از یک فرد تولید کرده و با ایجاد حساب کاربری جعلی، خود را از بستگان شاکی معرفی کردند. سپس با ارسال پیام و درخواست انتقال دارایی دیجیتال، موفق شدند حدود ۳۰۰ هزار تتر از شاکی دریافت کنند.

به گفته وی، این پرونده نشان می‌دهد پیشرفت فناوری هوش مصنوعی، در کنار فرصت‌های فراوان، زمینه شکل‌گیری شیوه‌های جدید کلاهبرداری و جرایم سایبری را نیز فراهم کرده و ضرورت ارتقای سواد دیجیتال، توسعه زیرساخت‌های امنیتی و تصویب قوانین تخصصی را بیش از پیش نمایان ساخته است.