چگونه جلوی هوش مصنوعی را بگیریم تا تفکر انتقادی ما را از بین نبرد
در ادامه، متن خواسته شده بدون زمان‌ها و به صورت یکپارچه و تیتربندی شده به فارسی ترجمه شده است.
مقدمه: چگونه برای خودمان فکر کنیم؟
من امروز اینجا هستم تا درباره چگونگی فکر کردن برای خود صحبت کنم. و باید اعتراف کنم که از هوش مصنوعی برای کمک به فکر کردن درباره این موضوع استفاده کردم. طنز ماجرا بر من پوشیده نیست. اما نحوه انجام این کار به این صورت نبود که از هوش مصنوعی به عنوان دستیاری استفاده کنم که به من کمک کند این سخنرانی را سریع‌تر آماده کنم. در عوض، از هوش مصنوعی به عنوان یک ابزار برای اندیشیدن استفاده می‌کنم. در پایان این سخنرانی، توضیح خواهم داد که منظور من از این چیست، چرا مهم است، و شما ایده‌ای از چگونگی عملکرد آن به دست خواهید آورد.
یک روز در زندگی کارگر دانش در قرن بیست و یکم
بیایید یک روز از زندگی یک کارگر دانش را در قرن بیست و یکم ببینیم. به دفتر کارم می‌رسم و به صندوق ورودی خود پر از ایمیل نگاه می‌کنم. برای پاسخ دادن مشکل دارم، پس بگذارید هوش مصنوعی پاسخ را بنویسد. بعد، باید گزارشی بنویسم. اما مشکل صفحه سفید ذهن مرا آزار می‌دهد. می‌دانم، چند منبع اضافه می‌کنم و یک پیش‌نویس با هوش مصنوعی می‌گیرم. به نظرم خوب می‌آید. راستی، یک دفتر یادداشت قبلاً با یک صفحه خالی شروع می‌شد. حالا با صفحه‌ای شروع می‌شود که هوش مصنوعی پر کرده و می‌پرسد آیا با آن موافقم. من تبدیل به یک تأییدکننده حرفه‌ای نظرات ربات‌ها شده‌ام. چند داده دارم که باید تحلیل کنم. شاید هوش مصنوعی بتواند این داده‌ها را برای من تحلیل کند. احتمالاً درست است. همچنین باید یک ارائه تهیه کنم. شما روال را می‌دانید. قرار بود یک نمونه اولیه هم بسازم. چیزی برنامه‌نویسی می‌کنم. همه اینها خوب به نظر می‌رسد، بیایید برویم.
این یک دیدگاه از آینده نیست. این تصویری کاملاً محتمل (هرچند کمی اغراق‌آمیز) از دنیای فعلی کار دانش است. به عصر «برون‌سپاری استدلال» خوش آمدید. جایی که کارگر دانش دیگر با مواد اولیه حرفه خود درگیر نمی‌شود. ما به توریست‌های فکری تبدیل شده‌ایم. در کار خودمان، ایده‌ها را مرور می‌کنیم، نه اینکه آنها را خلق کنیم. رابطه ما با کارمان کاملاً توسط هوش مصنوعی واسطه‌گری می‌شود. شاید بتوان گفت بیگانه شده است. ما قبلاً آن داستان را شنیده‌ایم.
مشکل این تصویر چیست؟
از یک سو، ما فقط یک قدم با این وضعیت فاصله داریم که خود جای نگرانی دارد. اما امروز می‌خواهم بر این نکته تمرکز کنم که استفاده از هوش مصنوعی به این روش می‌تواند پیامدهای عمیقی برای تفکر انسان داشته باشد.
خلاقیت: در سطح فردی، ممکن است فکر کنیم هوش مصنوعی خلاقیت را تقویت می‌کند، زیرا دسترسی سریع به ایده‌های جدید به ما می‌دهد. با این حال، مطالعات متعدد نشان داده‌اند که در سطح جمعی، کارگران دانشی که از دستیاران هوش مصنوعی استفاده می‌کنند، دامنه ایده‌های کوچک‌تری نسبت به گروهی که دستی کار می‌کنند تولید می‌کنند. ما یک ذهن جمعی خلق کرده‌ایم، با این تفاوت که این ذهن جمعی بسیار کسل‌کننده است و مدام همان پنج ایده تکراری را پیشنهاد می‌کند.
تفکر نقادانه: ما از کارگران دانش درباره استفاده از هوش مصنوعی نظرسنجی کردیم. آنها گفتند وقتی با هوش مصنوعی کار می‌کنند، تلاش کمتری برای تفکر نقادانه صرف می‌کنند نسبت به زمانی که دستی کار می‌کنند. و این اثر زمانی قوی‌تر بود که اعتماد بیشتری به هوش مصنوعی و اعتماد کمتری به خود داشتند.
حافظه: وقتی افراد برای نوشتن به هوش مصنوعی تکیه می‌کنند، کمتر چیزی را که نوشته‌اند به یاد می‌آورند. و وقتی خلاصه‌های تولیدشده توسط هوش مصنوعی را می‌خوانند، جای تعجب نیست که کمتر از زمانی که خودشان سند را خوانده بودند به یاد می‌آورند.
فراشناخت: توانایی فکر کردن درباره فرایند فکری خود. کار با هوش مصنوعی نیازمند استدلال فراشناختی قابل توجهی درباره اهداف تکلیف، تجزیه تکلیف، قابلیت کاربرد تولید هوش مصنوعی، و توانایی ارزیابی خروجی است. اینها جنبه‌هایی از فرایند کار مستقیم با مواد اولیه هستند که وقتی آن درگیری با مواد اولیه واسطه‌گری می‌شود، مشکل‌ساز می‌شوند. ما اساساً تبدیل به مدیران میانی برای ایده‌های خودمان شده‌ایم.
نتیجه نهایی چیست؟ ایده‌های کمتری داریم. به آنها نقادانه‌تر فکر می‌کنیم. آنها را با وضوح کمتری به یاد می‌آوریم و در انجام این کار مشکل بیشتری داریم. در مجموع، می‌توانیم ببینیم که گردش‌های کاری مبتنی بر هوش مصنوعی می‌توانند اثرات عمیقی بر تفکر انسان داشته باشند. و این حتی به کارهای روزمره و به ظاهر پیش پا افتاده نیز گسترش می‌یابد، زیرا این فرصت‌های روزانه برای تمرین خلاقیت، تفکر نقادانه و حافظه برای محافظت از عضلات شناختی ما ضروری هستند و به ما امکان می‌دهند وقتی با یک وظیفه فوق‌العاده پیچیده روبرو می‌شیم، از پس آن بربیاییم. مطالعات نشان می‌دهد وقتی از مغز استفاده نمی‌کنیم، عملکرد مغز بدتر می‌شود.
آیا این هزینه پیشرفت است؟
ما مشکل «مجبور بودن به فکر کردن» را حل کرده‌ایم. متأسفانه، فکر کردن واقعاً یک مشکل نبود. مثل این است که درمانی برای ورزش اختراع کرده باشیم و بعد بپرسیم چرا همیشه نفس‌تنگی داریم.
راه دیگر: هوش مصنوعی به عنوان ابزاری برای اندیشیدن
لازم نیست اینگونه باشد. فراتر از هوش مصنوعی به عنوان دستیار، من معتقدم هوش مصنوعی باید یک ابزار برای اندیشیدن باشد. هوش مصنوعی باید به چالش بکشد، نه اطاعت کند. من معتقدم درست در حال حاضر، ما در نقطه عطفی بحرانی قرار داریم که دنیای کار در آستانه دگرگونی توسط هوش مصنوعی مولد است، و باید همین حالا عمل کنیم تا آن دگرگونی را به سمت ارزش‌های انسانی شکل دهیم و هدایت کنیم. از میان این دو مسیر واگرا، باید مسیر کمتر پیموده شده را انتخاب کنیم.
فراتر از تمام کردن کار، یک ابزار اندیشیدن به ما کمک می‌کند کار را بهتر بفهمیم. علاوه بر سریع‌تر انجام دادن، به ما کمک می‌کند بهتر انجام دهیم. علاوه بر ارائه پاسخ‌های درست، یک ابزار اندیشیدن به ما کمک می‌کند سؤال‌های درست بپرسیم. علاوه بر خودکارسازی فرایندهای شناخته شده، به ما کمک می‌کند ناشناخته‌ها را کشف کنیم.
یک نمونه: ابزار تفکر در عمل
آنچه نشان خواهم داد یک نمونه اولیه (پروتوتایپ) است که توسط من و همکارانم در تیم «ابزارهایی برای تفکر» در مایکروسافت ریسرچ کمبریج ساخته شده است. این یک نمونه اولیه تحقیقاتی واقعی است، نه یک محصول، و فقط یکی از چندین کاوشی است که تیم ما برای مطالعه چگونگی بهبود تفکر انسان توسط حالت‌های مختلف کار با هوش مصنوعی انجام می‌دهد.
بیایید یک مثال فرضی را ببینیم. کلارا و همکارانش شرکتی را اداره می‌کنند که نوشیدنی‌های بطری می‌فروشد. آنها تازه جلسه‌ای برگزار کرده‌اند تا در مورد گزارش جدیدی از صنعت بحث کنند که به نظر می‌رسد حاوی یافته‌های بسیار مهمی درباره ترجیحات مصرف‌کنندگان برای بسته‌بندی پایدار است. همکاران کلارا از او خواسته‌اند پیشنهادی بنویسد که توضیح دهد شرکت چگونه باید پاسخ دهد. بنابراین او واقعاً باید این گزارش را بفهمد.
کلارا با بارگذاری چند سند در فضای کاری خود شروع می‌کند: رونوشت جلسه، یک گزارش داخلی اخیر از شرکت خودش، و گزارش صنعت. او یک نمای کلی از سند را به همراه خلاصه‌های بخش به بخش می‌بیند. اما اینها واقعاً فقط خلاصه نیستند. ما به آنها بیشتر به عنوان «عدسی» فکر می‌کنیم. آنها بازنمایی‌های خرد و قابل تنظیمی از متن هستند که می‌توانند بر آنچه برای کار مورد نظر مرتبط‌تر است تأکید کنند. در این مورد، کلارا «عدسی مصرف‌کننده» را انتخاب می‌کند. او می‌تواند یک بخش را برای مطالعه عمیق‌تر انتخاب کند. در حین خواندن، یادداشت‌هایی درباره افکارش برمی‌دارد و بخش‌هایی از سند را هایلایت می‌کند. در حین خواندن، همچنین نظرات و نقدهای تولیدشده توسط هوش مصنوعی را می‌بیند. ما به این موارد «برانگیزاننده» (provocations) می‌گوییم. در اینجا یک برانگیزاننده فرصت بالقوه‌ای را باز می‌کند که او آن را هایلایت و یادداشت می‌کند. توجه داشته باشید که این فرایند ترکیبی است بین خواندن کاملاً دستی و اعتماد کامل به هوش مصنوعی برای خواندن به جای شما. کلارا به خواندن ادامه می‌دهد، اما به شکلی هدفمند و استراتژیک.
در حین کار کلارا، او دارد طرح کلی استدلال خود را به صورت دستی در این پنل سمت راست می‌سازد. این طرح کلی ساختاری سبک دارد و به او اجازه می‌دهد جریان استدلال خود را در سطح بالا ترسیم کند، در حالی که همچنان ارتباطات عمیق با اسناد اصلی را حفظ کرده و بر آنها تکیه می‌کند. در نتیجه، ما از قبل می‌توانیم یک پیش‌نویس از پیشنهاد تولید کنیم. توجه کنید: اگرچه این متن توسط هوش مصنوعی تولید شده، کلارا رابطه‌ای کاملاً متفاوت با این متن دارد نسبت به حالتی که صرفاً چند سند را وارد کرده و بگوید «یک گزارش برایم بنویس». زیرا این متن عمیقاً در یک فرایند تفکر ریشه دارد که نیاز به تلاش شناختی دارد اما به راحتی با آن تعامل برقرار می‌کند. این متن منعکس‌کننده تصمیمات کلارا، قضاوت‌های کلارا، و تجربه شخصی و حرفه‌ای منحصربه‌فرد کلارا است.
او برانگیزاننده دیگری می‌بیند، این بار در طرح کلی. در این مورد تصمیم می‌گیرد که اگرچه برانگیزاننده مفید است، اما نیازی به پرداختن به آن نیست. بر خلاف پیشنهادات معمولی هوش مصنوعی، برانگیزاننده‌ها قرار نیست همیشه قابل اجرا باشند. در عوض، هدف آنها تحریک تأمل شما درباره کارتان است. زیرا اگر کارتان را به اندازه کافی خوب و به اندازه کافی عمیق بفهمید که بتوانید تصمیم مطمئنی مبنی بر نپذیرفتن یک نظر بگیرید، فرایند نظردهی همچنان به هدف خود عمل کرده است.
کلارا راه‌های کاملاً جدیدی برای تعامل با این متن به لطف هوش مصنوعی مولد دارد. یک مثال بسیار ساده: او می‌تواند اندازه یک پاراگراف را تغییر دهد تا طول آن را عوض کند. همچنین می‌تواند نسخه‌های مختلف این متن را سریع آزمایش کند. مثلاً در این پاراگراف، از خود می‌پرسد آیا اگر لحن الهام‌بخش‌تری یا عملی‌تری داشته باشد مؤثرتر خواهد بود. بنابراین یکی از این ابعاد قابل تنظیم را انتخاب می‌کند، پیش‌نمایشی از چند گزینه می‌بیند و یکی را انتخاب می‌کند. و در نقاط استراتژیک منتخب، خودش می‌نویسد. در حین نوشتن، برانگیزاننده‌هایی می‌بیند که به جای تکمیل خودکار ایده‌هایش، گزینه‌هایی را مطرح می‌کنند، مغالطه‌ها را شناسایی می‌کنند، و پاداستدلال ارائه می‌دهند تا به او کمک کنند استدلال خود را تقویت و توسعه دهد.
چیزی وجود دارد که در هیچ جای این رابط پیدا نمی‌کنید: یک جعبه چت. کلارا مجبور نیست برای انجام کارش با کسی چت کند، اما کامپیوترش بی‌صدا و به درستی به او کمک می‌کند، مانند یک کامپیوتر و نه مانند یک انسان ساختگی. به زبان ساده، ما از این وضعیت به آن وضعیت حرکت کرده‌ایم.
نتایج و اصول طراحی
در طول این فرایند، کلارا کمک دریافت کرده است و بله، احتمالاً با کمک هوش مصنوعی سریع‌تر کار کرده است. اما او همچنین درگیری مستقیم و مادی با مواد اولیه را در نقاط استراتژیک حفظ کرده است. او خودش بخش‌های مربوطه سند را خواند. او خودش تصمیماتش را بر استدلالش بنا نهاد. و در نهایت، می‌توان گفت او خودش این سند را نوشت. علاوه بر این، با کمک هوش مصنوعی بهتر کار کرد. برانگیزاننده‌های هوش مصنوعی در تمام مراحل فرایند، او را از نظر فراشناختی فعال نگه داشتند، و همیشه به دنبال نقد، گزینه‌ها و حرکت‌های جانبی بود.
ما اثرات ابزارهایی مانند این را مطالعه کرده‌ایم و نتایج امیدوارکننده است. می‌توان نشان داد که می‌تواند تفکر نقادانه را دوباره به گردش‌های کاری مبتنی بر هوش مصنوعی بازگرداند. می‌تواند از دست دادن خلاقیت را معکوس کرده و در عوض آن را افزایش دهد. می‌تواند ابزارهای قدرتمندی برای حافظه ایجاد کند که به کارگران دانش اجازه می‌دهد با سرعت بالا با قصد و نیت بیشتر بخوانند و بنویسند و همچنین آن را به خاطر بسپارند. معلوم می‌شود با اصول طراحی صحیح، می‌توان ابزارهایی ایجاد کرد که بهترین‌های هر دو جهان را ارائه دهند: به کارگیری سرعت و انعطاف شگفت‌انگیز این فناوری برای محافظت و تقویت تفکر انسان.
این اصول ساده و کلی هستند: اطمینان از اینکه ابزار درگیری مادی را حفظ می‌کند، مقاومت سازنده ارائه می‌دهد، و فراشناخت را تقویت می‌کند. و اگرچه ما عمدتاً بر متخصصان دانش متمرکز شده‌ایم، معتقدیم این اصول می‌توانند به تمام جنبه‌های استفاده از هوش مصنوعی گسترش یابند، حتی زمانی که در زندگی روزمره، سرگرمی‌ها و حتی آموزش از آن استفاده می‌کنیم.
تأکید می‌کنم، کارایی هدف ابزارهایی برای تفکر نیست. بهتر فکر کردن هدف است. اما گاهی اوقات می‌توانید هر دو را داشته باشید. من قبلاً فکر می‌کردم در تفکر انسان «نه غذایی مجانی» وجود دارد. این خیلی بهتر از یک ناهار مجانی است. این ناهاری است که به شما پول می‌دهد که آن را بخورید.
ارزش‌ها و پرسش‌های بنیادین
می‌خواهم با چند تأمل درباره ارزش‌هایی که در توسعه نرم‌افزار هوش مصنوعی داریم پایان دهم. اگر هوش مصنوعی به نقطه‌ای برسد که بتواند بهتر از انسان فکر کند، چرا باید اینقدر به محافظت و تقویت تفکر انسان اهمیت دهیم؟ دو دلیل وجود دارد:
اول، ممکن است همیشه راه‌هایی برای فکر کردن وجود داشته باشد که نقاط قوت منحصربه‌فرد انسانی باقی بمانند، که شاید حتی از آنها آگاه نباشیم.
دوم، و شاید مهم‌تر، ما موضعی اتخاذ می‌کنیم که توانایی خوب فکر کردن برای اراده آزاد، توانمندسازی و شکوفایی بشریت ضروری است.
این پژواک یک پرسش قدیمی است. مردم قبلاً پرسیده بودند: اگر نوشتن، اگر کتاب‌ها یا اینترنت بتوانند برای ما به خاطر بسپارند، آیا مهم است که ما نتوانیم؟ قبلاً پرسیده بودیم: اگر نقشه‌ها بتوانند برای ما مسیریابی کنند، آیا مهم است که ما نتوانیم؟ حالا می‌پرسیم: اگر ماشین‌ها بتوانند برای ما فکر کنند، آیا مهم است که ما نتوانیم؟ اگر ماشین‌ها بتوانند برای ما صحبت کنند، برای ما گریه کنند، برای ما دعا کنند، برای ما عشق بورزند، آیا مهم است که ما نتوانیم؟ برای من، پاسخ کاملاً واضح است.
وقتی ۱۳ سال پیش مطالعه تعامل انسان و هوش مصنوعی را شروع کردم، برای من غیرقابل تصور بود که در طول زندگی خود این سؤال‌ها را از خود بپرسیم. اما می‌پرسیم. و باید بپرسیم.
شما را با این ایده ترک می‌کنم: کدام را ترجیح می‌دهید؟ ابزاری که برای شما فکر کند، یا ابزاری که شما را به فکر وادارد؟
منبع:
How to Stop AI from Killing Your Critical Thinking | Advait Sarkar | TED
یادداشت های مرتبط:
آینده آموزش - چگونه هوش مصنوعی تفکر انتقادی را متحول می‌کند