نایت شید و گلیز دو ابزاری هستن که یه تیم به رهبری بن ژائو از دانشگاه شیکاگو اونا رو طراحی کرده. گلیز آثار هنری رو پنهان (ماسکه) می‌کنه و نایت شید اونا رو مسموم!
خب کار گلیز اینطوریه که تصویر آپلود میشه اما پیکسل‌هایی توش هست که تفسیر عکس واسه هوش مصنوعی رو سخت می‌کنه. مثلا باعث میشه سبک اثر هنری عوض بشه و اون چیزی که واقعا هست نمایش داده نشه.
نایت شید کار جالبتری می‌کنه. این ابزار پیکسل‌ها رو طوری تغییر می‌ده که نتیجه کار هوش مصنوعی پیش‌بینی ناپذیر و آشفته درمیاد.
توی آزمایششون، پنجاه عکس رو به دیتابیس استیبل دیفیوژن وارد کردن و دیدن که بعله، زده کار AI رو داغون کرده. مثلا عکس سگ به حالت کارتونی دراومده. با سیصدتا عکس مسموم، اون عکس سگ کاملا به گربه تبدیل شد ?
بعد جالبتر اینکه چون هوش مصنوعی رابطه بین کلمات رو پیدا می‌کنه، این مسمومیت روی تصاویر مرتبط هم تاثیر می‌ذاره.
حالا ممکنه بگین که دیتابیس‌های بزرگی مثل دال ای و میدجرنی میلیاردها تصویر رو استخراج و پردازش می‌کنن، چطور میشه که با پنجاه تا و سیصدتا مسموم بشن؟
جواب اینه که نایت شید متن بازه و هرکسی می‌تونه توسعه بدش و استفاده کنه و حتی نسخه‌های خودش رو بسازه. بدین ترتیب این ابزار هرروز قویتر میشه.
هنوز راهی برای جلوگیری از این کار پیدا نشده یا من نمی‌دونم ولی خب جنگ هنرمندان و هوش مصنوعی قطعا به اینجا ختم نمی‌شه.
منبع