當下人工智能領域的巨頭OpenAI曾不止一次發起呼吁，稱人們需要人工智能的研究，避免沒有道德約束的AI造成不必要的問題。

快科技7月17日消息，近日，有黑客展示了在“沒有道德限制”的情況下，人工智能會做出怎樣的事情。

根據安全分析公司SlashNext提供的信息，有黑客利用一個名為GPT-J的開源AI模型，開發出了一款名叫“WormGPT”的生成式人工智能。

經過SlashNext的測試，WormGPT能夠自由生成有Python語言編寫的惡意代碼，并能夠生成極具誤導型的釣魚郵件。

而這樣的表現，還僅僅是基于GPT-J這樣一個誕生于2021年的，架構較老，表現也并不出色的開源模型實現的。

可以想象，如果各大廠商的人工智能沒有“道德”限制，將會帶來怎樣嚴重的影響。

因此，SlashNext認為，隨著AI技術的普及，此類“完全為網絡攻擊而生”的AI工具恐將受到黑客所濫用，為用戶安全帶來重大威脅。

WormGPT