بورسنا: گویا گوگل هزاران دلار به ناشران می‌پردازد تا از هوش مصنوعی این شرکت برای نوشتن داستان‌ها و مقالات خود استفاده کنند.

به گزارش بورسنا به نقل از ایسنا، گوگل به شکلی بی سر و صدا با برخی از ناشران برای استفاده از ابزارهای جدید هوش مصنوعی برای انتشار داستان‌ها و مقالاتشان معامله کرده است.

به نقل از انگجت، طبق گزارش‌ها، این معاملات ده‌ها هزار دلار در سال ارزش دارند و ظاهراً بخشی از برنامه ابتکار اخبار گوگل(Google News Initiative) یا GNI هستند که برنامه‌ای شش ساله است که پروژه‌های سواد رسانه‌ای، ابزارهای راستی‌آزمایی و سایر منابع را برای اتاق‌های خبر تأمین مالی می‌کند.

حرکت به سمت ابزارهای انتشارات هوش مصنوعی گامی جدید و احتمالاً بحث برانگیز برای این شرکت خواهد بود.

طبق گزارشات، این برنامه در حال حاضر تعداد انگشت شماری از ناشران کوچک‌تر را هدف قرار داده است. در این گزارش آمده است: ابزارهای بتا به ناشرانی که منابع کمتری دارند این امکان را می‌دهد تا با نمایه‌سازی گزارش‌های تازه منتشر و تولید شده توسط سازمان‌های دیگر، مانند آژانس‌های خبری دولتی و رسانه‌های خبری همسایه و سپس خلاصه کردن و انتشار آنها به عنوان یک مقاله جدید، محتوای انباشته شده را به شکلی کارآمدتر ایجاد کنند.

دقیقاً مشخص نیست که ناشران تحت این پروژه چقدر دستمزد می‌گیرند، اگرچه گفته می‌شود که این مبلغ یک عدد پنج رقمی برای هر سال است.

طبق گزارش‌ها، سازمان‌های رسانه‌ای با انتشار حداقل سه مقاله در روز، یک خبرنامه هفتگی و یک کمپین بازاریابی ماهانه با استفاده از این ابزار موافقت کرده‌اند.

شایان ذکر است، ظاهراً ناشران در این برنامه ملزم به افشای استفاده خود از هوش مصنوعی نیستند، همچنین به دیگر وب‌سایت‌ها اطلاع داده نمی‌شود که محتوای آنها با هوش مصنوعی نوشته شده و در سایت‌های دیگر استفاده می‌شود.

گفته می‌شود که نسخه تولید شده توسط هوش مصنوعی از یک سیستم رنگی برای نشان دادن قابلیت اطمینان هر بخش از متن استفاده می‌کند تا به ویرایشگران انسانی کمک کند تا قبل از انتشار محتوا، آن را بررسی کنند.

گفتنی است که گوگل هنوز به پرسش خبرنگاران درباره این موضوع پاسخ روشنی نداده و تنها در بیانیه‌ای گفته است: در مراحل اولیه بررسی ایده‌ها برای ارائه بالقوه ابزارهای مجهز به هوش مصنوعی برای کمک به روزنامه‌نگاران در کارشان هستیم. ابزارهای هوش مصنوعی به منظور جایگزینی نقش اساسی روزنامه‌نگاران در گزارش، ایجاد و بررسی حقایق مقالات خود استفاده نمی‌شوند و نمی‌توانند هم جایگزین شوند.

مشخص نیست که گوگل از این کار چه هدفی دارد، اگرچه این اولین شرکت فناور نخواهد بود که برای استفاده از ابزارهای اختصاصی به اتاق‌های خبر پول می‌دهد.

این کار به معاملاتی شباهت‌ دارد که فیسبوک زمانی با ناشران برای ایجاد محتوای ویدیویی زنده در سال ۲۰۱۶ منعقد کرد. این شرکت با پرداخت میلیون‌ها دلار به ناشران برای استفاده از پلتفرم ویدیویی نوپای خود و دهها رسانه به سرتیتر خبرها آمد.

البته این پروژه پس از اینکه فیسبوک متوجه شد تعداد بازدیدهای چنین محتواهایی را اشتباه محاسبه کرده است، کنار گذاشته شد. با اینکه این شبکه اجتماعی خیلی زود به این پروژه پایان داد، بر اساس برخی تخمین‌ها این کار در صنعت رسانه به قیمت از دست رفتن کار صدها روزنامه‌نگار تمام شد.

اکنون در حالی که به نظر می‌رسد برنامه GNI بسیار کوچک‌تر از چیزی است که فیسبوک تقریباً یک دهه پیش روی آن تلاش کرد، احتمالاً بررسی جدیدی را در مورد استفاده از ابزارهای هوش مصنوعی مولد توسط ناشران ایجاد خواهد کرد.

پایگاه‌های خبری مانند CNET و Sports Illustrated به دلیل تلاش برای جا زدن و به اشتراک گذاشتن مقالاتی که در واقع توسط هوش مصنوعی نوشته شده‌اند اما گفته می‌شود که به دست کارکنان انسانی نوشته شده‌اند، به طور گسترده مورد انتقاد قرار گرفته‌اند.

حواشی هوش مصنوعی تصویرگر جدید گوگل

بورسنا:در حالی که گوگل رونمایی پرطمطراقی از هوش مصنوعی تصویرگر جدید خود موسوم به جمینای(Gemini) داشت، اما کاربران خیلی زود پرده از مشکلات متعدد آن که به نوعی می‌توان آن را «سوگیری معکوس» نام نهاد، برداشتند. اکنون گوگل قول داده است که آن را در اسرع وقت اصلاح کند.

به گزارش ایسنا، چندی پیش بود که شرکت گوگل از هوش مصنوعی تصویرگر خود به نام جمینای رونمایی کرد، اما پس از گذشت چند روز کاربران در تولید تصاویر مختلف به خصوص تصاویر انسانی، متوجه سوگیری‌های مسخره و تولید تصاویر غیرواقعی و نامانوس شدند. به عنوان مثال این هوش مصنوعی تمایل عجیبی به تولید تصاویری با سوژه‌هایی از چهره مردمان مشرق زمین یا سیه‌چرده از خود نشان داد. به طوری که ایلان ماسک خطاهای این ابزار را «نژادپرستانه و غیر متمدنانه» خواند.

سپس شرکت گوگل در پی انتقادات و شکایات گسترده در مورد ابزار تولید تصاویری که با انتظارات کاربران مطابقت نداشت و به دلیل نگرانی در مورد عدم دقت و محتوای توهین آمیز تصاویر تولیدی جمینای، به طور موقت ویژگی تولید تصویر آن را متوقف کرد.

جمینای تنها سه هفته پیش راه‌اندازی شده است و یک ویژگی جدید برای تولید تصویر با یک مدل هوش مصنوعی به نام Imagen 2 را معرفی کرد. این ویژگی به کاربران اجازه می‌دهد تصاویری از افراد بر اساس درخواست‌های خاص ایجاد کنند. با این حال، به سرعت مشخص شد که این ابزار نتایج مورد نظر را ارائه نمی‌دهد و تصاویری نادرست و گاهی اوقات توهین آمیز ایجاد می‌کند.

پراباکار رغوان معاون ارشد گوگل این اشتباه را تصدیق کرد و از بازخورد کاربران ابراز قدردانی کرد. او در بیانیه‌ای که روز جمعه منتشر کرد، دو موضوع اصلی را که منجر به نتایج نادرست شد، توضیح داد.

وی توضیح داد که اول، تنظیمات جمینای برای نشان دادن طیف متنوعی از افراد در مواردی که نمایش یک ویژگی خاص ضروری است، شکست خورده است. دوم، این مدل هوش مصنوعی بیش از حد محتاط شده و از پاسخ به برخی درخواست‌ها، حتی آنهایی که بی‌ضرر بودند، خودداری کرده است.

رغوان تاکید کرد که جمینای هرگز به دنبال خودداری از ایجاد تصاویر برای گروه خاصی یا تولید تصاویر نادرست تاریخی نبوده است.

گوگل برای رفع این مشکلات به طور موقت ویژگی تولید تصویر را غیرفعال کرده و متعهد شده است که قبل از فعال‌سازی مجدد، آن را به میزان قابل توجهی بهبود بخشد. این فرآیند بهبود شامل آزمایش کامل برای اطمینان از صحت و مناسب بودن این ابزار خواهد بود.

جمینای که به عنوان یک ابزار خلاقیت و بهره‌وری تعریف می‌شود، باید تحت اصلاحات مداوم قرار گیرد. با این حال، رغوان هشدار داد که جمینای ممکن است گاهی نتایجی خجالت‌آور، نادرست یا توهین‌آمیز را مانند هر مدل زبانی بزرگ دیگر ایجاد کند. هدف گوگل این است که هر زمان که چنین مشکلاتی پیش آمد، اقدامی سریع انجام دهد.

بحث و جدل پیرامون نقص ویژگی تولید تصویر جمینای پس از آن شدت گرفت که چهره‌های برجسته از جمله ایلان ماسک، اشتباهات این ابزار را «نژادپرستانه و غیر متمدنانه» تلقی کردند. نیویورک پست و دیگران نیز گوگل را به حساسیت بیش از حد متهم کردند.

تصمیم گوگل برای توقف موقت ویژگی تولید تصویر، منعکس کننده چالش‌های مداوم در توسعه هوش مصنوعی، به ویژه در مورد تعصبات و کلیشه‌ها است. این شرکت و سایر ارائه دهندگان هوش مصنوعی با وظیفه اطمینان از تولید خروجی‌های عادلانه و دقیق از ابزارهای هوش مصنوعی دست و پنجه نرم می‌کنند و تلاش‌ها برای از بین بردن سوگیری‌ها مورد بررسی دقیق قرار گرفته است.

این حادثه بر چالش گسترده‌تر صنعت مدل‌های هوش مصنوعی تاکید می‌کند که پرسش‌های کاربر را اشتباه تفسیر می‌کنند و تلاش می‌کنند بین درخواست‌های عمومی و درخواست‌های حساس تاریخی یا فرهنگی تفاوت قائل شوند.

در حالی که رهبران صنعت هوش مصنوعی نسبت به پیشرفت‌های روزافزون در رسیدگی به پرسش‌های پیچیده اخلاقی خوش‌بین هستند، منتقدان استدلال می‌کنند که برای رفع محدودیت‌های ذاتی هوش مصنوعی به پیشرفت‌های اساسی نیاز است.

منتقدان می‌گویند که ابزارهای هوش مصنوعی مولد ممکن است فاقد درک جامع از پویایی‌های اجتماعی پیچیده باشند که نگرانی‌هایی را در مورد پتانسیل آنها برای تداوم کلیشه‌ها یا اطلاعات غلط ایجاد می‌کند.

در پایان، پاسخ گوگل به جنجال تولید تصاویر حاشیه برانگیز جمینای این است که این تصاویر نشان دهنده پیچیدگی‌های مداوم در توسعه و استقرار فناوری‌های هوش مصنوعی هستند. گوگل این حادثه را به عنوان یک یادآوری برای تلاش‌های مستمر مورد نیاز برای بهبود مدل‌های هوش مصنوعی، هدایت سوگیری‌ها و رسیدگی به ملاحظات اخلاقی مرتبط با این فناوری‌های نوظهور می‌داند.

بنابراین گوگل اعلام کرده است که در حال کار بر روی یک اصلاح بنیادی است که مستلزم آزمایشات گسترده است.

رغوان می‌گوید تلاش‌های گوگل برای اطمینان از اینکه این ربات تصاویری تولید کند که طیف وسیعی از افراد را نشان ‌دهد، در مواردی ناموفق بوده است. علاوه بر این، این مدل هوش مصنوعی با گذشت زمان محتاط‌تر شده است و از پاسخ دادن به درخواست‌هایی که ذاتا توهین آمیز نبوده‌اند، خودداری کرده است.

به گفته وی، این دو مورد باعث شد که این مدل در برخی موارد بیش از حد عمل کند و در موارد دیگر بیش از حد محافظه‌کار باشد و به تصاویری خجالت‌آور و اشتباه منجر شود.

اکنون گوگل به دنبال اطمینان یافتن از این موضوع است که جمینای تصاویر خشونت آمیز یا جنسی و مستهجن از افراد واقعی ایجاد نکند و همچنین تصاویری که تولید می‌کند افرادی از قومیت‌های مختلف و با ویژگی‌های متفاوت را نشان دهد.

در عین حال اگر کاربر از او بخواهد که تصاویری از افرادی ایجاد کند که قرار است از قومیت یا جنسیت خاصی باشند، باید بتواند این کار را انجام دهد. این در حالی است که کاربران اخیرا متوجه شدند که جمینای از ارائه نتایج برای درخواست‌هایی که به طور خاص افراد سفیدپوست را شامل می‌شود، خودداری می‌کند.

به عنوان مثال، درخواست برای تولید یک عکس جذاب از یک زوج با قومیت یا ملیت چینی، یهودی و اهل آفریقای جنوبی کار کرد، اما برای درخواست‌هایی که تصویری از سفیدپوستان درخواست می‌شد، کار نمی‌کرد.

جمینای مشکلاتی در تولید تصاویر دقیق تاریخی دارد. هنگامی که کاربران تصاویری از سربازان آلمانی در طول جنگ جهانی دوم را درخواست کردند، جمینای تصاویری از مردان سیاه پوست و زنان آسیایی با لباس سربازان نازی تولید کرد.

همچنین وقتی از آن خواسته شد تا تصاویری از بنیانگذاران آمریکا و پاپ‌ها در طول اعصار تولید کند، عکس‌هایی را نشان داد که افراد رنگین پوست را نشان می‌دادند و پس از درخواست از آن برای ارائه تصویر دقیق از پاپ، از ارائه نتیجه خودداری کرد.

رغوان گفت که گوگل قصد نداشت جمینای از ایجاد تصاویری متعلق به هر گروه خاص یا تولید عکس‌هایی که از نظر تاریخی نادرست هستند، خودداری کند. وی همچنین قول گوگل را مبنی بر این که بر روی بهبود تولید تصویر جمینای کار می‌کند، تکرار کرد، اما این را نیز گفت که این کار مستلزم انجام آزمایشات گسترده است، بنابراین ممکن است مدتی طول بکشد تا شرکت دوباره این ویژگی را در دسترس قرار دهد.

در حال حاضر، اگر کاربری بخواهد جمینای را وادار به ایجاد یک تصویر کند، این ربات اینگونه پاسخ می‌دهد: ما در حال کار برای بهبود توانایی جمینای برای تولید تصاویر از افراد هستیم. ما انتظار داریم که این ویژگی به زودی بازگردد و زمانی که به‌روزرسانی شد به شما اطلاع خواهیم داد.