週末和兩位朋友吃飯,談起AI被廣泛應用的憂慮。
朋友A能預見很多從業者會被AI取代——當不同專業的AI介面都設置完備,一個人操作就可以抵得上往時十個人的工作份量的時候,就業巿場就只容得下能承擔責任(必要時「食死貓」)的資深員工,大學畢業生可無望入行。回顧之前幾個世紀的工業革命,科技發展無疑取代了大量人手,但這是福是禍,取決於有沒有新的工種出現,吸納失去了原來工作的人。
朋友B提出的趨勢更令我擔憂——訓練現時最頂尖的AI(LLM)如ChatGPT4時,基本上已經耗盡了網上能夠搜刮回來的資料。與此同時,當大家發現問AI得到的答案比搜索引擎更精準,他們便再不會在網上搜尋或發問。要用AI生成文章太容易,認真動手寫作的人也就大幅減少。搞不好,不久將來,網上可以看到的大部分免費文章都是用AI生成的。日後科技公司用來訓練新一代AI的網絡資訊中,由AI生成的比例肯定愈來愈高。惡性循環之下,我們在網上接觸到的文章質素將每況愈下。💩⮂👄⮂💩
以搜索引掣起家的Google,近來竟向搜索引掣部門推出「自願離職計劃」,把開發資源全都投放於AI,反映AI的普及的確大大打擊了搜索引掣的巿場。朋友B所擔憂的情況正在發生。
MIT最近發表了一項研究比較使用AI協助寫作、使用搜索引擎協助寫作、以及什麼都不用來寫作時實驗者腦神經連接的活躍程度(neural connectivity)。基本上,聽到研究問題時,我就猜到結果是:「用AI協助寫作」<「用搜索引擎協助寫作」<「徒手寫作」(當知道實驗中寫作的時限是20分鐘,也就覺得這是必然的結果,能用AI的實驗者基於時間所限,自然會走捷徑抄抄貼貼,何來餘暇用腦?)。過分依賴AI作業會讓人思考遲鈍,這結論讓從事教育行業的朋友非常憂慮:大勢所趨,下一代肯定會更常用AI做功課,連思考都外判給科技,那人類豈不是變得愈來愈笨?
(就我對現時AI的理解,AI所做到的所謂「reasoning」不過是博覽群書之後人云亦云,但因為學習材料足夠豐富,看起來它像真的懂邏輯思考一般。)
科技讓人類退化,是早已發生過的事了吧?相比古人,現代人五感遲鈍、五穀不分,連在同一個城市遊走都要依賴Google Map。古人要是親眼目睹現代人如何不濟,肯定會側目:這樣的廢人如何生存?然而,醫學發展讓現代人活得更久。只要依循現代社會的運作規則,笨拙的現代人仍能過着比古人更舒適的生活。那些昔日被視為不可或缺的求生技能(例如辨識有毒植物),隨著科技發展和社會結構改變,已成可有可無的特殊技能。
那麼,寫作和邏輯思考呢?
姑而先不談寫作。我一路以來都認為:邏輯思考是作出理性決定的必要條件。然而,步入社會,我卻碰見不少經常犯邏輯錯誤的人,生活卻過得好好的(😂)——那豈不是意味著「邏輯思考和理性決定並不是建構美好生活必需的」——從事教育工作的好友和我皆認為非常重要的邏輯思維,會否隨科技發展,成了「可有可無的專門技能」——只有特定工種,例如科學家,才需要這種技能?
寫到這裡,我覺得簡直陷入了詭辯的境地,也許是因為我在挑戰自己篤信的價值?
只能說,我無法定義他人的幸福,但對我而言,每天清靜理性的思考時間,是幸福生活不可或缺的——寫這篇《自省錄》碎碎念亦然——寫作是引導思考的手段。我不會因為LLM寫文章比我快,或是我發佈在網誌的文字會用以餵養LLM,而放棄寫作,因為寫文章是為了讓自己保持清醒和持續思考,寫小說是為了滿足把幻想世界實在化的慾望,這些全都是為自己而作,不是為了糊口或取悅他人。同時我也知道,對其他人而言,這也許不包括在幸福的條件中。
對於AI普及化如何引導社會轉變,我會繼續觀望下去。畢竟AI只是一個外在的工具,決定它如何影響人類的,不是AI而是使用的人。
最後,想跟仍在默默筆耕的朋友說聲:我還在(不是bot!🤖雖然AI也能這般說🤡),共勉之。
後按:我又把這篇文章放進Claude Sonnet請它回應(有幾個有趣的地方)。它最後一句:『P.S. 我也還在(雖然我確實是AI,但我希望我的回應能讓你感受到背後研發者的真誠思考)。』是要回應我的最後一句,沒想到會那麼人性化。