人工智能實驗室OpenAI周二在一篇博客文章中表示，該公司正在組建一個新團(tuán)隊，以創(chuàng)建民主程序，以塑造其人工智能軟件的管理方式，以解決偏見和其他因素。

這家總部位于舊金山的公司表示，“集體結(jié)盟”團(tuán)隊是2023年5月宣布的一項資助民主進(jìn)程實驗的撥款計劃的延續(xù)。這個節(jié)目最近結(jié)束了?！半S著我們繼續(xù)追求超級智能模型的使命，這些模型可能被視為我們社會不可或缺的一部分……重要的是讓人們有機(jī)會直接提供意見，”研究工程師、OpenAI新團(tuán)隊創(chuàng)始成員Tyna Eloundou告訴路透社。

例如，為了確保只有人類才能投票，OpenAI可以與Worldcoin合作，Worldcoin是OpenAI首席執(zhí)行官Sam Altman創(chuàng)建的一個加密貨幣項目，提供了一種區(qū)分人類和AI機(jī)器人的方法，兩人團(tuán)隊的另一名成員、產(chǎn)品經(jīng)理Teddy Lee說。Lee指出，該團(tuán)隊還沒有制定任何具體的計劃來整合世界幣。

自O(shè)penAI于2022年底推出ChatGPT以來，能夠從文本提示中生成異常權(quán)威的散文的生成式人工智能技術(shù)吸引了公眾，使該程序成為有史以來增長最快的應(yīng)用程序之一。然而，人們對人工智能創(chuàng)造“深度偽造”圖片和其他錯誤信息的能力感到擔(dān)憂，尤其是在2024年美國大選即將到來之際。批評人士表示，像ChatGPT這樣的人工智能系統(tǒng)由于用于塑造其觀點的輸入而具有固有的偏見，用戶已經(jīng)發(fā)現(xiàn)了人工智能軟件輸出的種族主義或性別歧視的例子。

Eloundou說，新的OpenAI團(tuán)隊正在積極招聘一名研究工程師和研究科學(xué)家。該團(tuán)隊將與OpenAI的“人類數(shù)據(jù)”團(tuán)隊和其他研究團(tuán)隊密切合作，該團(tuán)隊為收集公司人工智能模型的人類輸入建立基礎(chǔ)設(shè)施。