سازمان از برنامه استفاده از فناوریهای نوین و هوش مصنوعی برای رصد تخلفات فضای مجازی و کاهش زمان رسیدگی خبر داده است؛ مرز میان «کشف نشانه» و «صدور تصمیم» باید پیش از اجرا روشن شود.
به گزارش بهرواننیوز، هوش مصنوعی به در ورودی نظام رسیدگی انتظامی روانشناسان رسیده است. این فناوری میتواند تبلیغات مشکوک، استفاده از عناوین غیرمجاز یا گزارشهای پرتکرار را سریعتر شناسایی کند؛ اما اگر معیارهای آن پنهان بماند یا خروجی سامانه جای تشخیص انسانی را بگیرد، ابزاری که برای سرعت ساخته شده است میتواند به منبع تازهای از خطا و بیاعتمادی تبدیل شود.
در نشست هماندیشی با رؤسای شوراهای استانی، معاون انتظامی سازمان از تدوین آییننامه جامع تخلفات حرفهای، منشور اخلاق حرفهای، راهاندازی سامانه الکترونیکی رسیدگی به شکایات و بهرهگیری از فناوریهای نوین و هوش مصنوعی برای رصد تخلفات فضای مجازی و کاهش زمان رسیدگی به پروندهها خبر داد.
شورای مرکزی نیز در جلسه سیصدم اعضای کمیسیون تجدیدنظر تخلفات حرفهای را تعیین کرده است. براساس اطلاعات تکمیلی ارائهشده در نشست ششم مرداد، فعالیت هیئت بدوی جدید و مرجع تجدیدنظر آغاز شده است؛ آماری از تعداد پروندههای رسیدگیشده و میانگین زمان تصمیمگیری هنوز منتشر نشده است.
در یک الگوی محتاطانه، فناوری میتواند در این مراحل کمک کند:
در همه این موارد، خروجی سامانه باید «نشانه برای بررسی» باشد، نه دلیل کافی برای محکومیت.
هیچ عضو یا مرکز حرفهای نباید فقط براساس امتیاز یا برچسب تولیدشده توسط الگوریتم با مجازات، محدودیت یا انتشار نام روبهرو شود. مسئول انسانی باید مستندات را ببیند و مسئولیت تصمیم را بپذیرد.
فرد باید بداند چه رفتار مشخصی موضوع رسیدگی است، مستند آن چیست و کدام ضابطه احتمالاً نقض شده است. استناد کلی به «رصد هوشمند» برای دفاع کافی نیست.
رصد فضای عمومی مجوزی برای گردآوری نامحدود اطلاعات شخصی، مکالمات خصوصی یا دادههای مراجعان نیست. نوع داده، منبع، مدت نگهداری و اشخاص دارای دسترسی باید محدود و ثبت شود.
صفحات جعلی، تشابه اسمی، بازنشر محتوای دیگران و برداشت ناقص از یک تبلیغ میتواند سامانه را به خطا بیندازد. مسیر سریع اصلاح هویت و اعتراض به داده نادرست باید وجود داشته باشد.
خطر اصلی همیشه یک «ربات قاضی» آشکار نیست. گاهی سامانه فقط پروندهها را اولویتبندی میکند، اما چون معیار اولویت نامعلوم است، برخی اعضا بارها در معرض بررسی قرار میگیرند و برخی گزارشها دیده نمیشوند. یا کارشناس، به دلیل اعتماد بیش از حد به خروجی فناوری، بررسی مستقل را کوتاه میکند.
شفافیت لزوماً به معنای انتشار کد فنی نیست. سازمان میتواند هدف سامانه، دسته دادهها، نقش خروجی، نرخ خطای آزمایشی، نحوه نظارت انسانی و مسیر اعتراض را به زبان ساده منتشر کند.
برای آنکه «کاهش زمان رسیدگی» قابل ارزیابی باشد، انتشار این شاخصها ضروری است:
ورود هوش مصنوعی به رسیدگی انتظامی میتواند یک میانبُر مفید برای یافتن پروندهها باشد؛ اما نباید به تونلی تبدیل شود که عضو، دلیل ورود و راه خروج از آن را نداند. خط درست روشن است: ماشین میتواند چراغقوه باشد، نه چکش قاضی.
دیدگاههایی که حاوی ناسزا و افترا است، به هیچ عنوان پذیرفته نمیشوند
برای بهتر و روانتر خوانده شدن دیدگاه شما، بهتر است از متن به صورت فارسی استفاده کنید نه با حروف فینگلیش
موارد درگیری با کاربران در پاسخ به دیدگاه دیگر کاربران پذیرفته نمیشود