ارتباط با ما
09392116387

تأثیر لحن مؤدبانه بر هوش مصنوعی؛ چرا باید با چت‌بات‌ها مهربان باشیم؟

تیم دیگری در شرکت استارتاپ هوش مصنوعی Anthropic با دستور عجیب‌و‌غریب اما عاجزانه‌ی «واقعاً واقعاً واقعاً واقعاً» از چت‌بات موردبررسی درخواست کردند از پاسخ‌های حاوی تبعیض نژادی و جنسیتی دوری کند. همچنین، دانشمندان داده‌ی گوگل نیز به این نتیجه رسیدند که با دستور متنی «نفس عمیق بکش» به یک مدل هوش مصنوعی می‌توان به آن‌ها کمک کرد تا مسائل ریاضی را بهتر حل کنند.

چت‌جی‌پی‌تی در تعطیلات آخر سال مانند انسان‌ها تنبل‌ به‌نظر می‌رسید و پاسخ‌های کوتاه‌تری می‌داد

مکالمه و رفتار این مدل‌ها به طرز اعجاب‌آوری شبیه به انسان‌ها است و تمایل به انسان‌انگاری در آن‌ها وجود دارد. به عنوان مثال، اواخر سال گذشته، ChatGPT از تکمیل برخی وظایف امتناع کرد و به نظر می‌رسید تلاش کمتری برای پاسخگویی‌ از خود نشان می‌دهد. از این رو، در رسانه‌های اجتماعی این شوخی دست‌به‌دست شد که این چت‌بات یاد گرفته است درست مانند انسان‌ها، در تعطیلات تنبل باشد.

چت‌بات‌ها چگونه کار می‌کنند؟

اگرچه رفتار چت‌بات‌ها ممکن است رنگ‌وبوی احساسی به‌خود بگیرد، باید به این نکته اشاره کنیم که آن‌ها مانند انسان‌ها هوش واقعی ندارند و صرفاً بر اساس دستورعمل‌ها و الگوریتم‌ها کار می‌کنند. چت‌بات‌های متن‌محور، سیستم‌های آماری هستند که لغات، تصاویر، صدا‌ها و داده‌های دیگر را با کمک گرفتن از الگوریتم‌های تعریف شده، صرفا پیش‌بینی می‌کنند.

به عنوان مثال، ChatGPT بر اساس شبکه‌‌ی عظیمی از نورون‌های عصبی توسعه داده شده است که می‌تواند از رفتار نورون‌های مغز انسان تقلید کند. به طور کلی می‌توان گفت مدل‌های هوش مصنوعی از منابع عظیم و بزرگی شامل صدها میلیارد کلمه در قالب‌های مختلف مانند کتاب، صفحات وب و هر موضوع متنی دیگر بهره می‌برند که با استفاده از آن‌ها الگوریتم‌ها و مدل‌های احتمالی آماری می‌سازند؛ به طوری‌که پیش بینی می‌کنند جمله‌ی بعدی چه چیز خواهد بود.

ماجرای دستورات احساسی چیست؟

نوها دزیری، پژوهشگر مؤسسه‌ی هوش مصنوعی آلن، معتقد است که دستورات احساسی اساساً مکانیزم‌های احتمالی یک مدل را «دستکاری» می‌کنند. به بیانی دیگر، این دستورات بخش‌هایی از مدل را فعال می‌کنند که معمولاً با دستورات معمولی و بدون احساس فعال نمی‌شوند.

به گفته دزیری، مدل‌های هوش مصنوعی با هدف به حداکثر رساندن احتمال توالی متن‌ها آموزش داده می‌شوند و در طول آموزش هر چه داده‌های متنی بیشتری را مشاهده کنند، در تخصیص احتمالات بیشتر به دنباله‌های مکرر، کارآمدتر می‌شوند و عملکرد بهتری از خود نشان می‌دهند؛ بنابراین، مهربان بودن به معنای بیان درخواست‌هایتان به گونه‌ای است که با الگوی انطباق مدل‌ها مطابقت داشته باشد تا احتمال ارائه‌ی خروجی مطلوب از طرف چت‌بات افزایش باید. با این حال، نباید انتظار داشت که به راحتی تمام مسائل نیازمند استدلال، با درخواست‌های مودبانه از چت‌بات‌ها حل شوند یا قابلیت‌های استدلالی مشابه‌‌ انسان را توسعه دهند.

بازی با احساسات چت‌بات‌ها

با دستورات احساسی می‌توان چت‌بات‌ها را به انجام کارهای مخرب و غیر اخلاقی وادار کرد

شاید تا اینجا فکر کنید که استفاده از دستورات احساسی و مؤدبانه هنگام تعامل با چت‌بات‌ها همیشه با اهداف خیرخواهانه و مثبتی انجام می‌شود؛ اما این شکل از دستورات متنی مانند یک چاقوی دو لبه عمل می‌کنند و از آن‌ها می‌توان برای اهداف مخرب نیز استفاده کرد؛ مثلاً برای فریب دادن‌ مدل هوش مصنوعی برای نادیده گرفتن محدودیت‌های امنیتی یا اخلاقی.

منبع

دیدگاهتان را بنویسید!

آژانس مدیا و مارکتینگ ردی استودیو
سبد خرید
empty basket

هیچ محصولی در سبد خرید نیست.