هوش مصنوعی عاملی چیست و کجا نباید به آن اختیار داد

هر جا دربارهٔ «هوش مصنوعی عاملی» می‌خوانید، یک توضیح تکرار می‌شود: نسل بعدی، باهوش‌تر، خودمختار.

من فکر می‌کنم این توضیح نه‌فقط ناقص، که گمراه‌کننده است — و چون گمراه‌کننده است، آدم‌ها را سراغ پرسش‌های اشتباه می‌فرستد.

تفاوت اصلی در هوش نیست. در اجازه است. بگذارید نشان بدهم چرا.

یک مثال که فرق را نشان می‌دهد

از یک مدل زبانی معمولی بپرسید «این پارچه برای پردهٔ یک سالن ۴۰ متری کافی است؟» — حساب می‌کند و جواب می‌دهد. کارش تمام است.

حالا همان پرسش را به یک سیستم عاملی بدهید. می‌تواند بفهمد که برای پاسخ درست باید ارتفاع سقف را هم بداند، بپرسد، موجودی همان کد پارچه را نگاه کند، ببیند کافی نیست، جایگزین پیشنهاد بدهد و برای فردا یادداشت بگذارد که پیگیری کند.

قدم دوم به مدل باهوش‌تری نیاز ندارد. به این نیاز دارد که سیستم اجازه داشته باشد برود چیزی را نگاه کند و کاری انجام دهد.

چهار چیزی که یک سیستم عاملی را می‌سازند

وقتی از پشت اصطلاح‌ها بیرون بیاییم، چهار جزء هست. هر کدام نباشد، سیستم یک پله عقب می‌افتد.

ادراک — اینکه چه چیزی را می‌بیند. یک سیستم فقط متنِ پیام را می‌بیند؛ سیستم دیگری علاوه بر آن می‌داند این پیام از کدام کانال آمده، ساعت چند است، این شخص قبلاً چه خریده و آخرین بار کجا رها کرده. تفاوت این دو در مدل نیست، در چیزی است که به مدل داده می‌شود.

حافظه — اینکه چه چیزی می‌ماند. حافظهٔ کوتاه‌مدت یعنی همین گفتگو. حافظهٔ بلندمدت یعنی پروندهٔ آن شخص. بیشتر ابزارهایی که «هوش مصنوعی» نامیده می‌شوند فقط اولی را دارند، و همین باعث می‌شود در دیدار دوم مثل غریبه رفتار کنند.

ابزار — اینکه چه کاری می‌تواند بکند. خواندن موجودی، دیدن تقویم، ثبت یادداشت، فرستادن پیام. هر ابزاری که اضافه می‌شود هم توان سیستم را بالا می‌برد هم سطح خطرش را. سیستمی که فقط می‌خواند، بدترین کاری که می‌کند جملهٔ اشتباه است. سیستمی که می‌نویسد، می‌تواند تعهد بسازد.

حد — اینکه چه کاری را حق ندارد بکند. این جزء چهارم همان است که در فهرست تبلیغاتی هیچ‌کس نیست، چون قابلیت نیست. ولی در عمل، همین است که تعیین می‌کند سیستم به درد کار واقعی می‌خورد یا فقط نمایشی است.

و همین‌جا هزینه شروع می‌شود

سیستمی که اجازهٔ عمل دارد، اجازهٔ اشتباه هم دارد — و اشتباهش دیگر یک جملهٔ غلط نیست، یک تعهد است. سه جا این را دیده‌ایم که گران تمام می‌شود:

قولی که پشتش نیست. سیستم قیمتی می‌گوید که از یک فهرست قدیمی خوانده. مشتری آن را جدی می‌گیرد، چون از طرف شما آمده. حالا یا ضرر می‌دهید یا زیر حرفتان می‌زنید؛ هر دو بد است.

قراری که کسی سرش نیست. سیستم وقت می‌گذارد بی‌آنکه بداند آن روز تعطیل است یا آن ساعت پر است. مشتری می‌آید و کسی نیست. این یک بار اتفاق می‌افتد و رابطه تمام می‌شود.

پاسخی در حوزه‌ای که حق ندارد. پرسش پزشکی، حقوقی یا مالیاتی می‌آید و سیستم چون می‌تواند جواب بدهد، جواب می‌دهد. اینکه بتواند دلیل نمی‌شود که مجاز باشد.

هر سه از یک ریشه‌اند: به سیستم اختیاری داده شده که کسی حدش را ننوشته بود.

خودمختاری یک درجه است، نه یک کلید

فرض رایج این است که یا سیستم خودکار است یا آدم جواب می‌دهد. در عمل چند پله بین این دو هست:

1. فقط می‌خواند و خلاصه می‌کند — هیچ پیامی نمی‌فرستد.
2. پیش‌نویس می‌سازد و آدم می‌فرستد.
3. خودش پاسخ می‌دهد ولی فقط در محدودهٔ آنچه قطعی است.
4. خودش پاسخ می‌دهد و اطلاعات هم می‌گیرد، ولی قیمت و تعهد نمی‌دهد.
5. تا انتهای معامله می‌رود.

بیشتر کسب‌وکارها فکر می‌کنند پلهٔ ۵ را می‌خواهند و در عمل پلهٔ ۴ بخش بزرگی از ارزش را با کسری از ریسک به آن‌ها می‌دهد. انتخاب این پله، تصمیم اصلی است — نه انتخاب مدل.

آزمونی برای پیدا کردن پلهٔ درست

یک کار ساده که نیم ساعت وقت می‌برد و بیشتر از هر جلسهٔ فنی به شما می‌گوید کجا ایستاده‌اید: بیست پیام آخری که از مشتری‌ها گرفته‌اید را بردارید و هر کدام را در یکی از سه ستون بگذارید.

ستون اول — پاسخش الان معلوم است و تا ماه بعد هم همان است. ساعت کاری، آدرس، اینکه فلان کد موجود است یا نه.

ستون دوم — پاسخش معلوم است ولی باید جایی را نگاه کرد. وضعیت یک سفارش، تاریخ آزاد در تقویم.

ستون سوم — پاسخش هنوز تصمیم گرفته نشده. تخفیف، استثنا، تعهد تحویل.

ستون اول و دوم جای اتوماسیون است. ستون سوم جایی است که سیستم فقط باید پرونده را کامل کند و بگذارد یک آدم تصمیم بگیرد. اگر فروشنده‌ای به شما می‌گوید ستون سوم را هم خودکار می‌کند، دارد ریسکی را به شما می‌فروشد که خودش پایش نمی‌ایستد.

نسبت این سه ستون در هر کسب‌وکاری متفاوت است، و همین نسبت — نه توان مدل — تعیین می‌کند اتوماسیون برای شما چقدر می‌ارزد.

سه اشتباهی که تکرار می‌شود

اشتباه اول: فکر می‌کنیم مسئله دقت است. جلسه‌ها دربارهٔ این می‌گذرد که سیستم چند درصد درست می‌فهمد. اما سیستمی که نود و پنج بار از صد بار درست می‌فهمد و آن پنج بار قیمت غلط می‌دهد، از سیستمی که هشتاد بار درست می‌فهمد و بیست بار می‌گوید «این را باید همکارم بگوید» بدتر است. دقت مهم است؛ رفتارِ هنگام ندانستن مهم‌تر است.

اشتباه دوم: حد اختیار را در متن دستور می‌نویسیم. رایج‌ترین شکل پیاده‌سازی این است که در دستورِ متنیِ سیستم نوشته می‌شود «قیمت نده». این کار می‌کند تا روزی که مشتری با اصرار می‌پرسد، یا کسی جمله‌ای می‌نویسد که سیستم را از آن قاعده منحرف می‌کند. حد اختیار وقتی معنا دارد که در خودِ سازوکار باشد — یعنی سیستم به قیمت دسترسی نداشته باشد — نه اینکه به آن گفته شده باشد نگوید.

اشتباه سوم: یک بار راه می‌اندازیم و رها می‌کنیم. کسب‌وکار زنده است: محصول اضافه می‌شود، قیمت عوض می‌شود، قاعده‌ای تغییر می‌کند. سیستمی که سه ماه به‌روز نشده، با اطمینان چیزهایی می‌گوید که دیگر درست نیستند — و اطمینانش همان چیزی است که آن را خطرناک می‌کند. باید از روز اول معلوم باشد چه کسی این به‌روزرسانی را انجام می‌دهد و چقدر طول می‌کشد.

یک روز از کار چنین سیستمی

تا اینجا زیاد کلی حرف زدیم. بگذارید یک روز واقعی را با هم دنبال کنیم — شکلی که در بیشتر کسب‌وکارهای خدماتی ایران تکرار می‌شود.

ساعت ۲۳:۴۰. پیامی در واتساپ می‌آید: «سلام، برای اسفند برنامه دارید؟» سیستم می‌داند که این شخص سه هفته پیش در سایت دربارهٔ همین موضوع پرسیده و رفته. جواب می‌دهد، و چون قرار نیست تعهد بدهد، تاریخ قطعی نمی‌گوید؛ می‌پرسد کدام هفتهٔ اسفند و چند نفر.

ساعت ۲۳:۴۸. طرف جواب می‌دهد. سیستم اطلاعات را در همان پروندهٔ قبلی می‌گذارد — نه یک پروندهٔ جدید — و می‌نویسد که فردا صبح همکار تماس می‌گیرد.

ساعت ۹:۰۰ صبح. روی میز فروش یک پرونده هست: این شخص کیست، سه هفته پیش چه پرسیده بود، دیشب چه گفت، و چه چیزی هنوز نامعلوم است.

هیچ‌کدام از این قدم‌ها به هوش خارق‌العاده نیاز نداشت. چیزی که لازم بود این بود که سیستم اجازهٔ پرسیدن داشته باشد، اجازهٔ قول‌دادن نداشته باشد، و حافظه‌اش بین سایت و واتساپ یکی باشد.

مقایسه کنید با حالتی که همان پیام ساعت ۲۳:۴۰ تا صبح بی‌پاسخ می‌ماند: صبح یک پیام خشک «سلام، بفرمایید» فرستاده می‌شود، و طرف که دیشب در حال تصمیم‌گیری بود، امروز سرش جای دیگری است.

این برای کسب‌وکار ایرانی یعنی چه

سه چیز عملی، از کار روی سیستم‌های واقعی:

یک: از فروشنده بپرسید سیستم چه کاری را نمی‌کند. اگر فهرست کارهایی که سیستم مجاز نیست انجام دهد وجود ندارد، یعنی کسی به آن فکر نکرده. این پرسش بیشتر از پرسیدن نام مدل به شما می‌گوید.

دو: حد اختیار باید در یک جا نوشته شود، نه در هر کانال جدا. وقتی برای سایت یک ربات هست و برای بله یکی دیگر، آن قاعده‌ای که در یکی نوشته‌اید در دیگری نیست. مشتری هم دقیقاً از همان کانالی می‌آید که یادتان رفته.

سه: ادب و لحن را جزو مشخصات فنی بدانید، نه سلیقه. در گفتگوی فارسی، شکل سلام و خداحافظی، اندازهٔ تعارف، و اینکه سیستم چطور «نه» می‌گوید، به همان اندازهٔ درستیِ پاسخ در ماندن یا رفتن مشتری اثر دارد. سیستمی که ترجمهٔ لحن انگلیسی باشد — خشک، مستقیم، بدون احوال‌پرسی — حتی وقتی پاسخش درست است، بیگانه به نظر می‌رسد. این را باید در همان ابتدا مشخص کرد، نه بعد از شکایت.

چهار: تفاوت شب و روز را جدی بگیرید. بخش بزرگی از ارزش یک سیستم عاملی در ساعت‌هایی است که کسی نیست. اما همان ساعت‌ها دقیقاً وقتی است که اگر سیستم چیزی را خراب کند، تا صبح کسی نمی‌فهمد. پس درجهٔ اختیار شبانه می‌تواند — و اغلب باید — از روز کمتر باشد.

و یک پرسش که کسی نمی‌پرسد: داده کجا می‌ماند؟

هر سیستمی که پروندهٔ مشتری نگه می‌دارد، دارد اطلاعات شخصی نگه می‌دارد — شماره تماس، آنچه پرسیده، گاهی چیزهایی که ترجیح می‌داد جای دیگری نرود. سه پرسش را پیش از راه‌اندازی بپرسید، نه بعد از آن:

این اطلاعات کجا ذخیره می‌شود و چه کسی به آن دسترسی دارد؟ پاسخ «روی سرور ما» کافی نیست؛ بپرسید کدام کشور، و چه کسی در تیم فروشنده می‌تواند گفتگوهای مشتریان شما را بخواند.

اگر مشتری بخواهد پاک شود، چه اتفاقی می‌افتد؟ این باید یک کار مشخص و انجام‌پذیر باشد، نه وعده. در عمل، سیستمی که راه پاک‌کردن ندارد، یعنی معماری‌اش این را از اول در نظر نگرفته.

چه چیزی اصلاً نباید ذخیره شود؟ برای بعضی کسب‌وکارها — کلینیک، مشاوره، مالی — پاسخ این پرسش تعیین می‌کند که کدام قابلیت‌ها اصلاً نباید فعال شوند. این محدودیت را بهتر است خودتان تعیین کنید تا اینکه بعداً به شما تحمیل شود.

این پرسش‌ها ربطی به هوش مصنوعی ندارند؛ همان چیزی‌اند که هر سیستمی که با مشتری کار می‌کند باید جوابشان را داشته باشد. ولی چون سیستم‌های عاملی حجم بیشتری از گفتگو را نگه می‌دارند، اهمیتشان بیشتر می‌شود.

جمع‌بندی

هوش مصنوعی عاملی نه نسل بعدی مدل‌هاست و نه چیز مرموزی. تفاوتش با آنچه تا حالا داشته‌ایم در یک کلمه است: اجازه. سیستمی که اجازهٔ عمل دارد می‌تواند کارهایی بکند که یک پاسخ‌دهندهٔ ساده نمی‌تواند — و دقیقاً به همان اندازه می‌تواند خراب کند.

پس تصمیم اصلی، انتخاب مدل نیست. تصمیم اصلی این است که این اجازه تا کجا باشد، چه کسی حدش را نوشته، و وقتی سیستم به مرز می‌رسد چه کاری می‌کند. کسب‌وکاری که این سه را روشن کرده باشد، از سیستمی متوسط نتیجهٔ خوب می‌گیرد. کسب‌وکاری که روشن نکرده باشد، از توانمندترین مدل دنیا هم دردسر می‌گیرد.

مرز میان چت‌بات، ایجنت و لایه‌ای که این حدود را نگه می‌دارد در نوشتهٔ سیستم‌عامل هوش مصنوعی چیست و چه فرقی با ایجنت و چت‌بات دارد توضیح داده شده، و چرا چت‌بات برای کسب‌وکار جواب نداد نشان می‌دهد نبودِ همین حدود در عمل چه شکلی است.