حذف حسابهای اینستاگرام توسط متا
حذف خودکار حسابها و نگرانی کاربران از تصمیمهای الگوریتمی; شرکت متا در سالهای اخیر استفاده از هوش مصنوعی را برای مدیریت شبکههای اجتماعی خود افزایش داده است، اما این رویکرد با انتقادهای زیادی از سوی کاربران روبهرو شده است. برخی کاربران میگویند سیستمهای خودکار متا بدون بررسی کافی، حسابهای آنها را حذف یا مسدود میکنند و حتی مسیر اعتراض به این تصمیمها نیز توسط هوش مصنوعی مدیریت میشود. یکی از مهمترین نگرانیها در این زمینه، حذف حسابهای اینستاگرام توسط الگوریتمهایی است که ممکن است در تشخیص تخلف دچار اشتباه شوند.
یکی از این کاربران کمیل هنسون (Camille Hanson) است؛ فردی که کسبوکار آموزش زبان انگلیسی خود را از پرتغال در فیسبوک و اینستاگرام مدیریت میکرد. این کسبوکار نزدیک به یک میلیون دنبالکننده داشت، اما ناگهان متا حسابهای او و همسرش را به دلیل ادعای نقض قوانین مربوط به کلاهبرداری و فریب کاربران برای حذف علامتگذاری کرد.
حذف ناگهانی یک کسبوکار در شبکههای اجتماعی
هنسون پس از دریافت هشدار متا، درخواست بررسی مجدد ثبت کرد، اما یک هفته بعد پاسخ منفی دریافت کرد.
در پیام متا اعلام شده بود:
«تمام اطلاعات شما برای همیشه حذف خواهد شد و امکان درخواست بررسی دوباره این تصمیم وجود ندارد.»
برای خانواده هنسون که بخش مهمی از فعالیت اقتصادی خود را از طریق این حسابها انجام میدادند، این اتفاق مانند بسته شدن ناگهانی یک فروشگاه بدون اطلاع قبلی بود. چنین تجربههایی باعث شده نگرانیها درباره حذف حسابهای اینستاگرام و تأثیر تصمیمهای خودکار متا افزایش پیدا کند.
همسر او توضیح داد که از دست دادن حسابها برای یک کسبوکار آنلاین، تفاوتی با تعطیل شدن ناگهانی یک فروشگاه فیزیکی ندارد؛ زیرا ارتباط با مشتریان، محتوای آموزشی و جامعه مخاطبان همگی در همان پلتفرم قرار داشت.
کاهش نقش انسان در بررسی تخلفات
متا در ماه مارس اعلام کرد که قصد دارد نقش هوش مصنوعی را در بررسی تخلفات کاربران افزایش دهد. طبق برنامه این شرکت، سیستمهای هوش مصنوعی مسئولیت بیشتری در شناسایی حسابهای متخلف و همچنین بررسی درخواستهای اعتراض کاربران خواهند داشت.
این تغییرات پس از آن اتفاق افتاد که متا هزاران نیروی انسانی خود را کاهش داد؛ از جمله کارکنانی که پیشتر وظیفه بررسی محتوا، رسیدگی به گزارشها و بررسی اعتراض کاربران را بر عهده داشتند.
منتقدان معتقدند حذف نقش انسان از این فرآیند میتواند باعث افزایش اشتباهات شود؛ زیرا الگوریتمها همیشه توانایی درک شرایط پیچیده و تفاوت میان تخلف واقعی و فعالیت قانونی کاربران را ندارند.
اعتراض گسترده کاربران به حذف حسابها
مشکل حذف حسابهای اینستاگرام تنها به چند مورد محدود نشده است. بیش از ۶۰ هزار کاربر با امضای یک درخواست عمومی از متا خواستهاند درباره نحوه مسدود کردن حسابها شفافسازی کند و امکان بررسی انسانی اعتراضها را دوباره فراهم کند.
در انجمنهایی مانند Reddit نیز کاربران زیادی تجربههای مشابهی را مطرح کردهاند. بسیاری از آنها میگویند یک سیستم خودکار حسابشان را حذف کرده، اما هیچ فردی برای پاسخگویی یا حل مشکل وجود نداشته است.
دفاع متا از عملکرد هوش مصنوعی
با وجود انتقادها، متا معتقد است هوش مصنوعی عملکرد بهتری نسبت به روشهای قدیمی دارد.
دانیل رابرتس، سخنگوی متا، اعلام کرده است که ابزارهای جدید نظارت این شرکت حدود ۱۳ درصد خطای کمتری نسبت به نیروهای انسانی دارند و میتوانند ۱۰ درصد تخلف بیشتری را شناسایی کنند.
او همچنین گفته است حسابهایی که در گزارش نیویورک تایمز بررسی شدهاند، توسط سیستمهای قدیمی متا مسدود شده بودند، نه فناوریهای جدید هوش مصنوعی.
رابرتس تأکید کرده است:
«ما متعهد هستیم اشتباهات کمتری در اجرای قوانین داشته باشیم و به کاربران کمک کنیم از حسابهای خود محافظت کنند. هوش مصنوعی در هر دو زمینه عملکرد خوبی داشته است.»
تجربههای ناموفق متا با اتوماسیون
با این حال، استفاده گسترده از سیستمهای خودکار برای متا همیشه موفقیتآمیز نبوده است.
در ماه مه، هکرها توانستند چتبات خدمات مشتری مبتنی بر هوش مصنوعی متا را علیه حدود ۳۴ هزار حساب اینستاگرام مورد سوءاستفاده قرار دهند.
این اتفاق در کنار گزارشهای متعدد کاربران درباره حذف حسابهای اینستاگرام نشان میدهد که استفاده از الگوریتمهای خودکار، در کنار مزایا، میتواند خطرات و چالشهایی نیز داشته باشد.
حذف اشتباه حسابها با شدیدترین اتهامها
یکی از نگرانیهای مهم کاربران این است که حذف حسابهای اینستاگرام به اشتباه معمولاً با اتهامهای سنگین همراه هستند.
آتِنیا رادنی (Athenia Rodney) که ۱۷ سال گروه اجتماعی JuneteenthNY را مدیریت کرده بود، پس از حذف حسابهایش با اتهام انتشار محتوای مرتبط با سوءاستفاده از کودکان مواجه شد.
او اعلام کرد محتوای این گروه کاملاً خانوادگی بوده و چنین تخلفی انجام نداده است. بررسیها نشان داد که در واقع حسابهای او توسط هکرها تصاحب شده بودند.
رادنی برای بازگرداندن حسابهای خود مدارک هویتی ارسال کرد، به کمیسیون تجارت فدرال آمریکا شکایت کرد و حتی از طریق لینکدین با کارکنان متا ارتباط گرفت؛ اما هیچکدام نتیجهای نداشت.
تنها پس از ورود خبرنگاران نیویورک تایمز، متا یکی از حسابهای حذفشده را بازگرداند.
نگرانی اروپا درباره حذف خودکار حسابها
این موضوع در اروپا اهمیت بیشتری پیدا کرده است؛ زیرا سیستمهای مسدودسازی خودکار متا به واتساپ نیز مرتبط شدهاند.
نویسنده فناوری M.G. Siegler اعلام کرده است که سه بار حساب واتساپ او مسدود شده و هر بار بدون هشدار یا توضیح مشخص، دسترسیاش قطع شده است.
این مسئله در اروپا اهمیت زیادی دارد؛ زیرا بسیاری از مردم برای ارتباطات کاری، هماهنگیهای خانوادگی و امور روزمره از واتساپ استفاده میکنند.
آینده هوش مصنوعی در مدیریت شبکههای اجتماعی
متا اعلام کرده است که تصمیمهای مهم همچنان توسط انسانها گرفته میشوند. با این حال، تجربه بسیاری از کاربران نشان میدهد که در عمل، اغلب تنها یک سیستم خودکار بین آنها و حذف حسابهای اینستاگرام قرار دارد.
حتی فرآیند اعتراض به تصمیمهای هوش مصنوعی نیز در بسیاری از موارد توسط یک سیستم خودکار انجام میشود.
با افزایش توجه قانونگذاران به مسئولیتپذیری شرکتهای فناوری، احتمالاً شرکتهایی مانند متا مجبور خواهند شد تعادل بیشتری میان سرعت هوش مصنوعی و نظارت انسانی ایجاد کنند.
آینده شبکههای اجتماعی به این بستگی دارد که شرکتها چگونه میتوانند از قدرت هوش مصنوعی استفاده کنند، بدون اینکه اعتماد کاربران را از بین ببرند.