「情感人工智慧」可能是商業軟體的下一個趨勢,但這可能會帶來問題

隨著企業嘗試在各處嵌入人工智慧,一種意想不到的趨勢是企業轉向人工智慧來幫助其許多新發現的機器人更好地理解人類情感。

隨著企業嘗試在各處嵌入人工智慧,一種意想不到的趨勢是企業轉向人工智慧來幫助其許多新發現的機器人更好地理解人類情感。

根據 PitchBook 最新的企業 Saas 新興技術研究報告,這是一個被稱為「情感人工智慧」的領域,該報告預測這項技術正在崛起。

推理是這樣的:如果企業為高管和員工部署人工智慧助手,讓人工智慧聊天機器人成為一線銷售人員和客戶服務代表,如果人工智慧不理解憤怒的「做什麼」和「做什麼」之間的差別,那麼人工智慧如何表現良好?以及困惑的“你這是什麼意思?”

情感人工智慧聲稱是情感分析的更複雜的兄弟,情感分析是一種前人工智慧技術,試圖從基於文字的互動中提取人類情感,特別是在社交媒體上。情感人工智慧可以稱為多模態,利用視覺、音訊和其他輸入感測器,結合機器學習和心理學,嘗試在互動過程中偵測人類情感。

主要人工智慧雲端供應商提供的服務使開發人員能夠存取情感人工智慧功能,例如 Microsoft Azure 認知服務的 Emotion API 或 Amazon Web Services 的 Rekognition 服務。 (多年來,後者一直存在爭議。)

PitchBook 表示,雖然情感人工智慧,即使是作為雲端服務提供,也不新鮮,但勞動力中機器人的突然崛起,讓它在商業世界中擁有比以往更多的未來。

PitchBook 的新興技術高級分析師德里克·埃爾南德斯(Derek Hernandez) 在報告中寫道:「隨著人工智慧助手和全自動人機互動的激增,情感人工智慧有望實現更接近人類的解釋和反應。

「攝影機和麥克風是情緒人工智慧硬體方面不可或缺的一部分。這些可以位於筆記型電腦、手機上,也可以單獨位於實體空間中。此外,穿戴式硬體可能會提供這些裝置以外的另一種使用情感人工智慧的途徑。 (因此,如果該客戶服務聊天機器人要求存取攝影機,這可能是原因。)

為此,越來越多的新創公司正在誕生,以實現這一目標。 PitchBook 估計,其中包括 Uniphore(籌集總額為 6.1 億美元,其中 2022 年由 NEA 牽頭的 4 億美元),以及 MorphCast、Voicesense、Superceed、Siena AI、 audEERING 和Opsis,其中每家公司也從各種風險投資公司籌集了少量資金。

當然,情感AI是一種非常矽谷的做法:用科技來解決人類使用科技所帶來的問題。

但即使大多數人工智慧機器人最終會獲得某種形式的自動同理心,這並不意味著這個解決方案會真正發揮作用。

事實上,上一次情感人工智慧在矽谷引起人們的廣泛興趣時——大約是在2019 年左右,當時人工智慧/機器學習領域的大部分仍專注於電腦視覺,而不是生成語言和藝術——研究人員對這個想法提出了質疑。那年,一組研究人員發表了一項研究元回顧,得出的結論是,人類的情緒實際上不能由臉部動作決定。換句話說,我們可以教導人工智慧透過模仿其他人類的方式(讀懂臉孔、肢體語言、語氣)來偵測人類的感受,這種想法在其假設上有些誤導。

還有一種可能性是,人工智慧監管,例如歐盟的人工智慧法案,禁止將電腦視覺情緒偵測系統用於教育等某些用途,可能會將這個想法扼殺在萌芽狀態。 (一些州法律,如伊利諾伊州的 BIPA,也禁止未經許可收集生物識別讀數。)

所有這些都讓我們更廣泛地了解矽谷目前正在瘋狂建設的人工智慧無所不在的未來。這些人工智慧機器人要么會嘗試情感理解,以便完成客戶服務、銷售和人力資源等工作以及人類希望分配給它們的所有其他任務,要么它們可能不會很好地完成任何真正需要這種能力的任務。也許我們所看到的辦公室生活充滿了2023 年左右的 Siri 水平的人工智慧機器人。

https://techcrunch.com/2024/09/01/emotion-ai-could-be-the-next-trend-for-business-software-and-that-could-be-problematic/