(相關(guān)資料圖)
如果谷歌的巴德聊天機器人的非官方首次亮相是任何跡象的話,錯誤信息將變得更加糟糕。該公司本周在Twitter上發(fā)布了一則廣告,展示了自然語言人工智能模型,顯示了關(guān)于詹姆斯-韋伯太空望遠鏡(JWST)的虛假信息。
在廣告中,一個簡短的GIF顯示了與巴德問答的例子。"我可以把詹姆斯-韋伯太空望遠鏡的哪些新發(fā)現(xiàn)告訴我9歲的孩子?"詢問中寫道。機器很快就吐出了三個想法,包括最后一個說:"JWST拍攝了我們太陽系以外的行星的第一批照片。這些遙遠的世界被稱為 "系外行星"。Exo的意思是"來自外部""。雖然關(guān)于系外行星的部分是正確的,但第一部分說JWST拍攝了它們的第一張照片是錯誤的。這一榮譽屬于歐洲南方天文臺2004年的甚大望遠鏡(VLT),這一點得到了美國宇航局的證實。
雖然Twitter廣告中的錯誤信息不可能直接損害任何東西,但很容易將這個錯誤視為將自然語言聊天機器人釋放到野外的風險的預(yù)兆。這與CNET決定用人工智能聊天機器人撰寫金融建議文章的做法相似;這些文章也充滿了錯誤。
因為聊天機器人有很多地方是正確的--而且吐出的答案非常自信--任何不對他們的回答進行事實核查的人都可能會留下錯誤的信念。考慮到(非人工智能驅(qū)動的)錯誤信息已經(jīng)在社會上造成的混亂,在可以信任它能夠可靠和一致地產(chǎn)生事實信息--甚至逃脫谷歌的文案編輯--之前釋放這種通常令人震驚的技術(shù)可能會讓我們陷入瘋狂。