به پاسخ‌های چت‌بات Bard اعتمادی نیست

گوگل (Google) بار دیگر درباره چت‌بات بارد (Bard) به کاربران هشدار داده است. این شرکت اعلام کرده که بهتر است کاربران برای اطمینان از صحت پاسخ‌ها به سراغ موتور جستجوی گوگل بروند. در ادامه این مطلب با مایکت همراه باشید.

همه ما می‌دانیم که چت‌بات‌هایی نظیر ChatGPT و Bard گهگاه پاسخ‌های نادرستی را به کاربر می‌دهند. گوگل که چت‌بات مبتنی بر هوش مصنوعی بارد را ساخته هم از این موضوع آگاه است و به کاربران توصیه کرده که حتما با جستجو از صحت پاسخ چت‌بات مطمئن شوند.

• PhotoGuard از دستکاری تصاویر توسط هوش مصنوعی جلوگیری می‌کند
• کوالکام و متا در سال 2024 هوش مصنوعی بدون نیاز به اینترنت را روی موبایل می‌آورند
• هوش مصنوعی و مشکل حفظ حریم شخصی

دیبی واینستین، رئیس بخش بریتانیای گوگل، در مصاحبه با BBC’s Today گفت که چت‌بات Bard چیزی نیست که از آن انتظار پاسخ کاملا صحیح را داشته باشید و بخواهید از آن به عنوان یک منبع موثق استفاده کنید. او در صحبت‌های خود افزود که در بارد باید آزمایش‌های بیش‌تری انجام پذیرد تا مشکلات موجود حل شده و ایده‌های جدیدی در خصوص این چت‌بات به کار گرفته شود. او خاطر نشان کرد که کاربران بهتر است برای دستیابی به پاسخ‌های صحیح از موتور جستجوی گوگل استفاده کنند.

پیش‌تر طرفداران هوش مصنوعی اظهار کرده بودند که چت‌بات‌ها می‌توانند به زودی جای موتورهای جستجوی قدیمی نظیر گوگل را بگیرند. اما حالا شرکت گوگل اعلام کرده که کاربران باید با دقت بیش‌تری به پاسخ‌های Bard نگاه کنند، چرا که تضمینی در صحت بودن کامل اطلاعات وجود ندارد.

خود ابزارهای هوش مصنوعی هم در خصوص پاسخ‌های‌شان هشدارهایی به کاربران می‌دهند. برای مثال شما در پایین صفحه اصلی ChatGPT یک عبارت سلب مسئولیت می‌بینید که در آن نوشته شده اطلاعات مربوط به افراد، مکان‌ها و حتی چیزهایی که به عنوان واقعیت به اشتراک گذاشته می‌شوند، ممکن است صحیح نباشند. حالا گوگل هم اعلام کرده که چت‌بات بارد محدودیت‌هایی دارد و پاسخ‌های‌اش گاهی درست نیست.

این اولین بار نیست که گوگل در خصوص چت‌بات‌ها هشدار می‌دهد. شرکت Alphabet، کمپانی مادر گوگل، ماه قبل به کارکنان‌اش اعلام کرد که باید با احتیاط از ابزارهای مربوط به هوش مصنوعی، حتی Bard، استفاده کنند و بهتر است اطلاعات محرمانه‌شان را در این چت‌بات‌ها وارد نکنند. این شرکت به مهندسان‌اش گفت که از وارد کردن مستقیم کدهای تولید شده توسط هوش مصنوعی به ابزارهای خود خودداری کنند.

چت‌بات بارد در ماه فوریه که نسخه دمو آن در دسترس قرار گرفت هم پاسخ‌های نادرستی ارائه می‌داد. چند ماه بعد هم گزارش‌های منتشرش شد در این خصوص که کارکنان گوگل از شرکت خواسته‌اند که این چت‌بات را به صورت کامل راه اندازی نکند. آن‌ها بارد را «دروغ‌گوی مربض»، «خجالت‌آور» و «بدتر از فاجعه» لقب دادند.

یکی از مشهورترین موارد در زمینه اشتباهات هوش مصنوعی به دو وکیل مربوط می‌شود که با استفاده از ChatGPT به نتیجه‌ای نادرست رسیده بودند که گمان می‌کردند یک تحقیق درست و قانونی است. آن‌ها از این اطلاعات برای یک پرونده مصدومیت استفاده کردند که سروصدای زیادی به راه انداخت. یکی از وکلا اظهار کرد که اصلا نمی‌دانسته که ممکن است محتوای ارائه شده توسط هوش مصنوعی نادرست باشد.

Google

حجم:۱۴۵ مگابایت

دانلود گوگل

منبع: TechSpot