هوش مصنوعی چیست؟ این پرسش دو جور جواب می‌گیرد و هیچ‌کدام کمکی نمی‌کنند.
جواب اول شعاری است: «هوش مصنوعی همه‌چیز را عوض میکند.» جواب دوم ترساننده است: «به‌زودی جای همه را می‌گیرد.» هر دو چیزی دربارهٔ خودِ آن نمی‌گویند.
این نوشته جواب سوم را می‌دهد: توضیحی که بشود با آن تصمیم گرفت.
کوتاه‌ترین جواب درست
هوش مصنوعی برنامهای است که از روی حجم بسیار زیادی نمونه، الگو یاد گرفته و بر اساس همان الگو حدس می‌زند چه چیزی باید بعد بیاید.
همین. بقیهٔ این نوشته بسط همین یک جمله است، و هر رفتار عجیبی که از این سیستم‌ها دیده‌اید، از همین یک جمله بیرون می‌آید.
تفاوتش با برنامهٔ معمولی در این است که قاعدههایش را کسی دستی ننوشته. در یک برنامهٔ معمولی، آدمی نشسته و نوشته «اگر این‌طور بود، آن کار را بکن». در این یکی، برنامه از میلیون‌ها نمونه خودش الگو را بیرون کشیده.
یک مثال که همه‌چیز را روشن میکند
فرض کنید کسی میلیون‌ها جملهٔ فارسی را دیده باشد و از او بپرسیم این جمله چطور تمام می‌شود:
«امروز هوا خیلی…»
احتمالاً میگوید «سرد است» یا «گرم است». نه چون هوا را حس کرده، بلکه چون در نمونه‌هایی که دیده، بعد از «امروز هوا خیلی» معمولاً این کلمه‌ها آمدهاند.
مدل‌های زبانی امروز دقیقاً همین کار را می‌کنند، فقط در مقیاسی بسیار بزرگ‌تر و با درک بسیار پیچیده‌تری از زمینه. وقتی از یکی‌شان می‌پرسید «پایتخت فرانسه کجاست»، جواب «پاریس» را می‌دهد نه چون در نقشه‌ای نگاه کرده، بلکه چون در نوشتههای بی‌شماری که دیده، این دو کنار هم آمدهاند.
و همین‌جاست که مهم‌ترین نکته پیدا می‌شود: اگر چیزی را نداند، باز هم چیزی میگوید. چون کارش پیدا کردن محتملترین ادامه است، نه بررسی درستی.
چرا با اطمینان اشتباه میکند
این پرتکرارترین شکایت از این فناوری است و توضیحش مستقیماً از بالا می‌آید.
وقتی از یک مدل چیزی می‌پرسید که در نمونه‌هایش نبوده — مثلاً موجودی انبار مغازهٔ شما — کارش را متوقف نمی‌کند. محتملترین دنبالهٔ کلمات را میسازد، و آن دنباله معمولاً روان و مطمئن به نظر میرسد، چون از نوشتههای مطمئن یاد گرفته.
پس این «دروغ گفتن» نیست؛ دروغ گفتن قصد می‌خواهد. این نتیجهٔ مستقیم روشِ کار است.
نتیجهٔ عملی‌اش هم روشن است: هرچه بیشتر به آن اعتماد کنید، باید بیشتر بررسی کنید. و در سیستم‌هایی که با مشتری حرف می‌زنند، این یعنی هر چیزی که به عدد و موجودی و وضعیت اشاره میکند باید از منبع واقعی خوانده شود، نه از حافظهٔ مدل.
آیا فکر میکند؟
نه، و این پرسش مهمی است چون جوابش بر تصمیم‌ها اثر می‌گذارد.
این سیستم‌ها باور ندارند، قصد ندارند، و چیزی را به معنایی که ما می‌فهمیم نمی‌فهمند. خروجی‌شان شبیه فهمیدن به نظر میرسد چون از نوشتههای آدمها الگو گرفته‌اند — و ما، طبیعتاً، هر چیزی را که مثل آدم حرف بزند مثل آدم فرض میکنیم.
این خطای ادراکی هزینه دارد. کسی که فکر کند سیستم «می‌فهمد»، انتظار دارد که وقتی نداند، بگوید نمی‌دانم — همان‌طور که آدم میگوید. ولی سیستم چنین حسی ندارد.
«هوشواره»، واژهای که شاید بهتر باشد
یک نکتهٔ زبانی که بی‌ربط نیست.
«مصنوعی» در فارسی روزمره بوی بدل می‌دهد: گل مصنوعی، چرم مصنوعی، لبخند مصنوعی. یعنی واژه پیش از هر توضیحی به شنونده گفته این چیز اصل نیست.
هوشواره واژهٔ دیگری برای همین مفهوم است: «هوش» به‌علاوهٔ پسوند «ـواره»، همان الگویی که «ماهواره» را از «ماه» ساخت. «ـواره» یعنی مانندِ چیزی — بدون قضاوت دربارهٔ اصل یا بدل بودن.
و واژهٔ فرضی نیست: رابط فارسی خودِ گوگل از «حالت هوشواره‌ای» استفاده میکند.
کاری که امروز خوب انجام می‌دهد
بدون اغراق، اینها چیزهایی هستند که این فناوری در آنها واقعاً خوب است:
زبان. نوشتن، بازنویسی، خلاصه کردن، ترجمه. اینها کارهایی‌اند که دقیقاً با روش کارش می‌خوانند.
پیدا کردن الگو در حجم زیاد. صد گفتگو را بخواند و بگوید چه چیزی تکرار می‌شود. آدم این کار را می‌تواند بکند ولی حوصله‌اش را ندارد.
دسته‌بندی. اینکه این پیام دربارهٔ فروش است یا شکایت. کار ساده‌ای است و خوب انجامش می‌دهد.
تبدیل. گفتار به متن، متن به جدول، فرم پرکردن از روی یک پیام.
و کاری که خوب انجام نمی‌دهد
حساب و منطق دقیق. بهتر از قبل شده و هنوز قابل اتکا نیست. برای عدد، از ماشین‌حساب استفاده کنید نه از مدل.
دانستن چیزهایی که در داده‌اش نبوده. اطلاعات کسب‌وکار شما، اتفاق‌های تازه، هر چیز خصوصی. اگر بپرسید، میسازد.
قضاوت دربارهٔ آدمها. هر تصمیمی دربارهٔ استخدام، اعتبار یا سلامت کسی، از الگوی داده‌های گذشته بیرون می‌آید — و آن الگو ممکن است چیزی جز تکرار تبعیض‌های گذشته نباشد.
دانستن اینکه نمی‌داند. این مهم‌ترین محدودیت است و چیزی است که باید در طراحی سیستم جبرانش کرد.
سه اصطلاحی که قاطی می‌شوند
اینها را جدا می‌کنم چون در گفتگوهای کاری مدام جای هم به کار می‌روند و همین باعث سوءتفاهم می‌شود.
هوش مصنوعی اصطلاح چتری است برای همهٔ این حوزه. وقتی کسی میگوید «هوش مصنوعی گذاشتیم»، عملاً چیزی نگفته.
مدل زبانی آن چیزی است که متن را می‌فهمد و متن تولید میکند. همان که در بالا توضیح دادم. این هستهٔ ماجراست ولی به‌تنهایی کاری انجام نمی‌دهد جز حرف زدن.
ایجنت وقتی است که به آن مدل، اجازهٔ عمل داده شود: فرم پر کند، نوبت ثبت کند، پیام بفرستد. تفاوت ایجنت با چت‌بات در هوش نیست، در اجازه است.
این سه، سه لایه‌اند. کسی که می‌خواهد چیزی بخرد یا بسازد، باید بداند دربارهٔ کدام لایه حرف می‌زند — چون ریسک و هزینهٔ هر لایه با لایهٔ قبل فرق دارد.
یادگیری ماشین، شبکهٔ عصبی، مدل زبانی — به زبان ساده
اگر این اسم‌ها را شنیده‌اید و نمی‌دانید چه ربطی به هم دارند، در سه جمله:
یادگیری ماشین روشی کلی است: به‌جای اینکه قاعده‌ها را دستی بنویسیم، از داده بیرونشان می‌کشیم. این ایده دهه‌هاست وجود دارد.
شبکهٔ عصبی یکی از روش‌های این کار است — ساختاری که از تعداد بسیار زیادی واحد ساده ساخته شده و با دیدن نمونه‌ها تنظیم می‌شود. اسمش از شباهت دوری به مغز آمده و آن شباهت را نباید جدی گرفت.
مدل زبانی شبکهٔ عصبی بسیار بزرگی است که روی متن آموزش دیده و کارش پیشبینی کلمهٔ بعدی است. همان چیزی که امروز بیشتر مردم وقتی «هوش مصنوعی» می‌گویند منظورشان است.
پس این سه، سه چیز رقیب نیستند؛ سه سطح از یک درخت‌اند.
این برای کسب‌وکار ایرانی یعنی چه
اول، بین «چت» و «سیستم» فرق بگذارید. چت رایگان به شما جواب می‌دهد و برای کارهای خودتان مفید است. سیستم به مشتری‌های شما جواب می‌دهد، از دادهٔ شما، و یادش می‌ماند چه کسی بوده. این دو یک چیز نیستند.
دوم، فارسی را جدا بسنجید. بیشتر ابزارها روی انگلیسی طراحی و بعد بومی شده‌اند. کیفیتی که در انگلیسی دیده‌اید، لزوماً در فارسیِ محاوره‌ای تکرار نمی‌شود. با جمله‌های واقعی مشتری‌هایتان امتحان کنید، نه با جمله‌های تمیز.
سوم، از هر ادعایی یک پرسش بپرسید: این سیستم اطلاعاتش را از کجا می‌آورد؟ اگر جواب «از خودش» بود، برای هر چیزی که باید درست باشد، به آن اعتماد نکنید.
چهارم، دسترسی و پرداخت به بعضی سرویس‌ها از ایران ساده نیست. این را در هر تصمیمی در نظر بگیرید — نه به‌عنوان حاشیه، به‌عنوان بخشی از طراحی.
پرسش‌هایی که مردم واقعاً می‌پرسند
چند پرسش که در گفتگوهای عادی زیاد شنیده‌ام و جواب‌های کوتاهشان.
«جای شغل‌ها را می‌گیرد؟» بعضی کارها را، نه بعضی شغل‌ها را. کاری که تکراری است و قضاوت نمی‌خواهد، بیشتر در معرض است. کاری که قضاوت، مسئولیت یا حضور آدم می‌خواهد، کمتر. در عمل آنچه بیشتر دیده می‌شود جابه‌جایی ترکیب کار است، نه حذف شغل.
«از کجا می‌فهمم متنی را هوش مصنوعی نوشته؟» با اطمینان، نمی‌فهمید. ابزارهایی که ادعای تشخیص دارند خطای زیادی دارند و به آدم‌های بی‌گناه هم برچسب می‌زنند. اگر برایتان مهم است که کاری را آدم انجام داده، آن را در فرایند تضمین کنید، نه با تشخیص بعدی.
«دادهٔ من چه می‌شود؟» بستگی به سرویس دارد و باید بپرسید. بعضی سرویس‌ها ورودی‌ها را برای بهبود خودشان استفاده می‌کنند. برای متن عمومی مسئله‌ای نیست؛ برای اطلاعات مشتری یا مالی، هست.
«آیا فارسی را خوب می‌فهمد؟» بهتر از چند سال پیش، و نه به‌خوبی انگلیسی. تفاوت در فارسیِ محاوره‌ای و لهجه‌دار بیشتر دیده می‌شود تا در فارسیِ کتابی. این را باید خودتان با نمونه‌های واقعی بسنجید.
چطور یک ادعا را بسنجید، بدون دانش فنی
سه پرسش که هر کسی می‌تواند بپرسد و تقریباً هر ادعایی را می‌سنجند:
۱. «این اطلاعات را از کجا می‌آورد؟» اگر منبع مشخصی نبود، هر عددی که میگوید ممکن است ساخته باشد.
۲. «وقتی جواب را نداند چه میکند؟» اگر جواب «همیشه جواب می‌دهد» بود، این خبر بدی است نه خوبی.
۳. «اگر اشتباه کند، چه کسی مسئول است؟» پاسخ همیشه شمایید. هر وعده‌ای که خلاف این بگوید، ارزش بررسی بیشتری دارد.
سه پرسش بالا هیچ دانش فنی نمی‌خواهند و در هر جلسه‌ای می‌شود پرسیدشان. جواب‌هایی که می‌گیرید، بیشتر از هر نمایشی به شما می‌گویند با چه چیزی طرفید.
جمع‌بندی
هوش مصنوعی چیست؟ برنامهای که الگو یاد گرفته و بر اساس الگو حدس می‌زند. نه اعجاز، نه تهدید — یک ابزار با یک روش کار مشخص و یک نقطه‌ضعف مشخص که مستقیماً از همان روش می‌آید.
اگر همین یک جمله را بدانید، از بیشتر بحث‌هایی که دربارهٔ آن می‌شود سر در می‌آورید — و مهم‌تر، می‌توانید تشخیص بدهید کدام ادعا معنا دارد و کدام ندارد.
هوشواره چیست دربارهٔ همان واژه است، و هوش مصنوعی عاملی چیست دربارهٔ نسل تازه‌تری است که فقط حرف نمی‌زند بلکه کار هم انجام می‌دهد. و آموزش هوش مصنوعی برای دانشجویان دربارهٔ قدم بعد است، اگر خواستید از فهمیدن به یاد گرفتن برسید.