快科技7月6日消息，ChatGPT的開發商OpenAI最近表示，該公司計劃投入大量資源，創建一個新的研究團隊，以確保其人工智能對人類來說是安全的。

OpenAI聯合創始人表示，超級智能的巨大力量可能導致人類被剝奪權力，甚至人類滅絕。目前，我們還沒有一個解決方案來操縱或控制一個潛在的超智能人工智能，并防止它失控。

他預測，比人類更聰明的超智能人工智能可能在這個十年到來。人類需要研究比目前更好的技術來控制超級人工智能，即所謂的“對齊研究”（alignment research），該研究的重點是確保人工智能對人類有益。

研究團隊將會創建一個“人類水平”的AI對齊研究者，OpenAI將使用20%的計算能力來解決這個問題，并且通過大量的計算能力進行擴展。這意味著他們將使用人類反饋來訓練AI系統，訓練AI系統輔助人類評估，然后最終訓練AI系統進行實際的對齊研究。

不過有專家對這一計劃提出異議，因為它在設計上存在根本缺陷，最初的人類水平的人工智能可能會在解決人工智能安全問題之前失控并造成嚴重破壞。

人工智能的潛在威脅一直是研究人員和公眾最關心的問題，今年4月，一群人工智能行業領袖和專家簽署了一封公開信，呼吁暫停六個月開發比OpenAI的GPT-4更強大的系統，理由是對社會存在潛在風險。