ChatGPT是當前最火的AI應用，沒有之一，很多人已經被它超高的準確率折服，工作學習中甚至用它來替代搜索引擎及專業網站，然而ChatGPT并不總是對的，它胡編亂造的東西已經讓微博CEO上當，現在被專業人士抓包了。

事情是這樣的，最近幾天瑞士信貸被強制出售，有172億美元的AT1債務被直接清零，這是金融行業罕見的一例，金融專業人士@一玶海岸提到此前只有2017年西班牙大眾銀行破產出現過AT1債券被減記的情況

微博CEO@來去之間貼了ChatGPT給出的回答，說這樣的例子在2016年的葡萄牙BCP銀行事件中也出現過，意味著這樣的例子在之前就至少有2個例子了。

作為專業人士，@一玶海岸對此并不認可，結果查證之后發現BCP銀行的例子是ChatGPT編造的，并不存在，而且它給出的兩個信源打開也是404的。

換句話說，ChatGPT在這次的回答中不僅不準確，而且答案也是AI編造出來的，甚至為了提高可信度，連信源都偽造了，如果不是專業人士對此事有敏感度，估計絕大多數人都要被AI騙了。

這件事的危害不僅在于AI會編造錯誤的答案，還會形成一個閉式循環——AI胡扯，然后就有媒體引用AI的答案，AI再引用媒體的報道當作信源，環環相扣之下假的也會變成真的了，特別是在一些專業領域，畢竟不可能指望網民甚至媒體在所有方面都很敏感而且專業。

再進一步來說，這件事的可怕之處在于到底是AI算法不行，只能胡編不知道的事，還是AI在沒有事實信息的時候主動騙人類呢？如果是后者，未來的發展恐怕很難想象。