星期六, 23 11 月



OpenAI的執行長聲稱OpenAI並沒有在訓練GPT-5。(圖/報系資料照)

OpenAI的執行長聲稱OpenAI並沒有在訓練GPT-5。(圖/報系資料照)

最近,OpenAI的執行長Sam Altman在一場公開訪談上為GPT-5闢謠。他聲稱OpenAI並沒有在訓練GPT-5,而是一直基於GPT-4做別的工作。

前陣子圖靈獎得主Yoshua Bengio、蘋果創始人、馬斯克等全球科技業人士聯合起來,簽署了公開信,對GPT-5發出圍剿。現在,簽名人數已經突破了2.5萬。然而,Altman卻始終對此保持沉默,從未公開表露自己對於這封信的態度。

Altman昨(14日)在麻省理工學院的一場活動中,對於此封暫停超強AI訓練的聯名信首次表態。他表示,十分贊同這個倡議的一部分,公司訓練完GPT-4以後,也是等了六個月才發布。並強調,OpenAI花了很長時間研究GPT-4的安全性,接受了外部審核,也進行了內部的檢視。

不過,他也指出,這封公開信遺漏了最含技術性的一個細微之處——我們該在哪裡停止?對於該封聯名信最初版本聲稱OpenAI目前正在訓練GPT-5,Altman回應道:「我們並沒有這樣做,目前只是在GPT-4的基礎上進行更多的工作而已。我認為目前還各種各樣的安全問題需要解決,但這些問題在這封信上被完全忽略了。」

就在活動的同一天,OpenAI的總裁兼聯合創始人Greg Brockman,也在推特發了一段長文強調,公司對模型的安全問題是非常重視的。有關AI發展速度的討論中,有一個底層的核心理念,那就是需要非常重視安全性問題,謹慎前行。這對於公司的目標來說十分重要。

Brockman表示,從AI的長期發展歷史來看,專家們自信滿滿的預測往往並不準確。為了避免出現未注意到的預判錯誤,應該讓新技術以其當下的面貌時刻和現實世界碰撞,並在不斷碰撞的過程中發展、測試、投入使用,當然能力提升也是一定的。

總而言之,Altman表示,隨著模型的能力越來越強,與之對應的安全措施確實需要增加。OpenAI已經盡最大努力去了解,這個模型究竟發生了什麼,而且讓整個過程謹慎再謹慎。他自豪地提及,自從發布GPT-4以後,一切都很不錯。GPT-4也許不是功能最強大的模型,但肯定是目前未知最安全、最齊全的模型。

Share.

Leave A Reply