تأثیر لحن مؤدبانه بر هوش مصنوعی؛ چرا باید با چتباتها مهربان باشیم؟ - آژانس مدیا و مارکتینگ ردی استودیو
تأثیر لحن مؤدبانه بر هوش مصنوعی؛ چرا باید با چتباتها مهربان باشیم؟
تیم دیگری در شرکت استارتاپ هوش مصنوعی Anthropic با دستور عجیبوغریب اما عاجزانهی «واقعاً واقعاً واقعاً واقعاً» از چتبات موردبررسی درخواست کردند از پاسخهای حاوی تبعیض نژادی و جنسیتی دوری کند. همچنین، دانشمندان دادهی گوگل نیز به این نتیجه رسیدند که با دستور متنی «نفس عمیق بکش» به یک مدل هوش مصنوعی میتوان به آنها کمک کرد تا مسائل ریاضی را بهتر حل کنند.
چتجیپیتی در تعطیلات آخر سال مانند انسانها تنبل بهنظر میرسید و پاسخهای کوتاهتری میداد
مکالمه و رفتار این مدلها به طرز اعجابآوری شبیه به انسانها است و تمایل به انسانانگاری در آنها وجود دارد. به عنوان مثال، اواخر سال گذشته، ChatGPT از تکمیل برخی وظایف امتناع کرد و به نظر میرسید تلاش کمتری برای پاسخگویی از خود نشان میدهد. از این رو، در رسانههای اجتماعی این شوخی دستبهدست شد که این چتبات یاد گرفته است درست مانند انسانها، در تعطیلات تنبل باشد.
چتباتها چگونه کار میکنند؟
اگرچه رفتار چتباتها ممکن است رنگوبوی احساسی بهخود بگیرد، باید به این نکته اشاره کنیم که آنها مانند انسانها هوش واقعی ندارند و صرفاً بر اساس دستورعملها و الگوریتمها کار میکنند. چتباتهای متنمحور، سیستمهای آماری هستند که لغات، تصاویر، صداها و دادههای دیگر را با کمک گرفتن از الگوریتمهای تعریف شده، صرفا پیشبینی میکنند.
به عنوان مثال، ChatGPT بر اساس شبکهی عظیمی از نورونهای عصبی توسعه داده شده است که میتواند از رفتار نورونهای مغز انسان تقلید کند. به طور کلی میتوان گفت مدلهای هوش مصنوعی از منابع عظیم و بزرگی شامل صدها میلیارد کلمه در قالبهای مختلف مانند کتاب، صفحات وب و هر موضوع متنی دیگر بهره میبرند که با استفاده از آنها الگوریتمها و مدلهای احتمالی آماری میسازند؛ به طوریکه پیش بینی میکنند جملهی بعدی چه چیز خواهد بود.
ماجرای دستورات احساسی چیست؟
نوها دزیری، پژوهشگر مؤسسهی هوش مصنوعی آلن، معتقد است که دستورات احساسی اساساً مکانیزمهای احتمالی یک مدل را «دستکاری» میکنند. به بیانی دیگر، این دستورات بخشهایی از مدل را فعال میکنند که معمولاً با دستورات معمولی و بدون احساس فعال نمیشوند.
به گفته دزیری، مدلهای هوش مصنوعی با هدف به حداکثر رساندن احتمال توالی متنها آموزش داده میشوند و در طول آموزش هر چه دادههای متنی بیشتری را مشاهده کنند، در تخصیص احتمالات بیشتر به دنبالههای مکرر، کارآمدتر میشوند و عملکرد بهتری از خود نشان میدهند؛ بنابراین، مهربان بودن به معنای بیان درخواستهایتان به گونهای است که با الگوی انطباق مدلها مطابقت داشته باشد تا احتمال ارائهی خروجی مطلوب از طرف چتبات افزایش باید. با این حال، نباید انتظار داشت که به راحتی تمام مسائل نیازمند استدلال، با درخواستهای مودبانه از چتباتها حل شوند یا قابلیتهای استدلالی مشابه انسان را توسعه دهند.
بازی با احساسات چتباتها
با دستورات احساسی میتوان چتباتها را به انجام کارهای مخرب و غیر اخلاقی وادار کرد
شاید تا اینجا فکر کنید که استفاده از دستورات احساسی و مؤدبانه هنگام تعامل با چتباتها همیشه با اهداف خیرخواهانه و مثبتی انجام میشود؛ اما این شکل از دستورات متنی مانند یک چاقوی دو لبه عمل میکنند و از آنها میتوان برای اهداف مخرب نیز استفاده کرد؛ مثلاً برای فریب دادن مدل هوش مصنوعی برای نادیده گرفتن محدودیتهای امنیتی یا اخلاقی.
مقالات مرتبط
آخرین مقالات
چرا شهرهای بزرگ ایران هنوز هویت بصری مشخصی ندارند؟
هویت بصری یک شهر بهمثابه امضای آن شهر است. وقتی به شهرهایی همچون پاریس، نیویورک، توکیو، استانبول یا حتی بارسلونا فکر میکنیم، ترکیبی از عناصر بصری به ذهنمان میآید: برج ایفل، تابلوهای نئون شینجوکو، منارههای سنت صوفیا و نمای منحنی و رنگی گائودی. این نمادها...
تراشههای موبایل پرچمدار ۲۰۲۴ در برابر هم [تماشا کنید]
سال ۲۰۲۴ رو به پایان است و شاهد بودیم که شرکتهای کوالکام، اپل، مدیاتک و سامسونگ تمام تلاششان را کردند تا به نوبهی خود بهترین تراشهی موبایلی حال حاضر دنیا را معرفی کنند. اسنپدراگون ۸ الیت و A18 Pro اپل را میتوان جدیترین رقبای یکدیگر...
سیاهچالهها میتوانند عامل انبساط جهان باشند
ستارهشناسها احتمالا به شواهدی هیجانانگیز دست یافتهاند که نشان میدهد انرژی تاریک، نیروی اسرارآمیزی که عامل افزایش سرعت انبساط جهان ما است، میتواند به سیاهچالهها ربط داشته باشد. انرژی تاریک نزدیک به ۷۰ درصد از جهان ما را تشکیل میدهد و تصور میشود که پس...
نظرسنجی: رفع فیلتر کدام پلتفرم برای شما اولویت دارد؟
این روزها دولت از عزم جدی خود برای برداشتن فیلترینگ میگوید و در اظهارنظرهای مختلف از مسئولان هم مخالفت با فیلترینگ و تاکید بر شکستخورده و بینتیجه بودن آن شنیده میشود. اخبار شنیدهشده از گوشه و کنار هم از نزدیک بودن روزهای رفع فیلتر حکایت...