OpenAI روی ابزار جدید تشخیص تصاویر خلق شده با هوش مصنوعی کار می‌کند
OpenAI در حال کار روی ابزاری است که تشخیص می‌دهد یک تصویر توسط DALL-E 3 خلق شده است یا نه. در ادامه این خبر با مایکت همراه باشید.
OpenAI به تازگی ابزاری را اضافه کرده که قادر به تشخیص تصاویر ساخته شده توسط هوش مصنوعی DALL-E است. همچنین این ابزار روش جدیدی برای واترمارک کردن محتوای خلق شده توسط AI ارائه می‌دهد.
- ایلان ماسک: به لطف هوش مصنوعی حالا ما در آستانه یک انقلاب بزرگ در حوزه تکنولوژی هستیم
- معرفی بهترین برنامه‌ها و سرویس‌های هوش مصنوعی برای گوشی‌های اندروید
- نقش زنان در پیشرفت‌های هوش مصنوعی؛ از محدودیت تا اثر گذاری
OpenAI در یک پست بلاگ اعلام کرد که در حال توسعه روش‌هایی جدید است تا بتواند ثابت کند یک محتوا توسط هوش مصنوعی خلق شده یا نه. این ابزار شامل یک برنامه برای تشخیص عکس‌های ایجاد شده توسط AI است و در واقع این امر با کمک خود هوش مصنوعی صورت می‌گیرد. این محتوا به روشی واترمارک می‌شوند که قابل دستکاری نخواهند بود؛ همانند آن چه ما در خصوص محتوای صوتی ساخته شده توسط AI شاهدش هستیم که با سیگنال‌های قابل تشخیص شناسایی می‌شوند.
این ابزار میزان شباهت تصاویر با محتوای خلق شده توسط DALL-E 3 را پیش‌بینی می‌کند. OpenAI می‌گوید که با کمک این برنامه می‌توان تصاویر ساخته شده توسط هوش مصنوعی را در حالت برش داده شده، فشرده شده یا حتی اگر غلظت رنگ‌شان تغییر کرده باشد، تشخیص داد. هرچند این ابزار با دقت حدود 98 درصد می‌تواند تشخیص دهد که عکس‌ها توسط DALL-E 3 ساخته شده‌اند یا نه، اما قادر نیست چنین سطحی از دقت را در خصوص تصاویر خلق شده به وسیله سایر ابزار ساخت عکس ارائه دهد. مثلا در تشخیص محتوای ساخته شده توسط Midjourney میزان دقت حدود 5 تا 10 درصد است.
OpenAI پیش‌تر از طریق Coalition of Content Provenance and Authority (C2PA) اعتبار محتوا برای فراداده تصویر را اضافه کرد. اعتبار محتوا در واقع واترمارک‌هایی است که اطلاعات مربوط به این که چه کسی صاحب تصویر بوده و چطور این عکس ساخته شده را در خود دارد. OpenAI و شرکت‌هایی مثل مایکروسافت و ادوبی عضو C2PA هستند. در همین ماه OpenAI به کمیته راهبری C2PA ملحق شد.
این شرکت فعال در حوزه هوش مصنوعی اخیرا شروع به اضافه کردن واترمارک روی کلیپ‌های Voice Engine هم کرده است؛ این اقدام فعلا به صورت محدود و پیش‌نمایش در این پلتفرم تبدیل متن به صدا انجام شده است.
ابزار تشخیص تصاویر و واترمارک کردن صدا با استفاده از سیگنال هنوز در حال بهتر شدن هستند. OpenAI می‌گوید نیاز به بازخورد کاربران دارد تا بتواند تست‌ها را با موفقیت پشت سر بگذارد. محققان و ژورنال‌های عام‌المنفعه می‌توانند با اقدام از طریق پلتفرم دسترسی OpenAI برای مشارکت در این کار وارد عمل شوند.
OpenAI سال‌ها است که روی تشخیص محتوای ساخته شده توسط هوش مصنوعی کار می‌کند. هرچند در سال 2023 این شرکت تصمیم به غیرفعال کردن یکی از ابزارهای تشخیص متن نوشته شده توسط AI زد؛ علت این تصمیم هم پایین بودن سطح دقت برنامه بود.
این بود خبر کار کردن OpenAI روی ابزار جدید برای تشخیص تصاویر خلق شده با هوش مصنوعی. نظر شما درباره چنین ابزاری چیست؟ آینده AI را چطور پیش‌بینی می‌کنید؟ نظرات خود را در بخش کامنت‌ها با ما به اشتراک بگذارید.
منبع: TheVerge
