D-Think | 東遠科技-廣州東遠智能科技有限公司- › 首頁 ›資訊› 科技頭條 › 查看內(nèi)容

日本政府花10億日元研發(fā)AI工具，學習樣本僅5000，錯誤率60%

2025-3-6 10:35| 發(fā)布者: admin| 查看: 135| 評論: 0

摘要: 據(jù)《讀賣新聞》3月3日報道，在全球AI產(chǎn)業(yè)發(fā)展得如火如荼的背景下，日本政府也希望能夠研發(fā)一款自有的AI工具，以幫助工作人員判斷是否有必要臨時保護疑似遭受虐待的兒童。但從2021年起投入了約10億日元（約4879萬人民 ...

據(jù)《讀賣新聞》3月3日報道，在全球AI產(chǎn)業(yè)發(fā)展得如火如荼的背景下，日本政府也希望能夠研發(fā)一款自有的AI工具，以幫助工作人員判斷是否有必要臨時保護疑似遭受虐待的兒童。但從2021年起投入了約10億日元（約4879萬人民幣）研發(fā)經(jīng)費后，該AI在測試階段的誤判率仍然高達60%。兒童家庭廳的工作人員已經(jīng)正式做出了“AI難以判斷虐待情況，很難實用化”的結(jié)論。

據(jù)兒童家庭廳官方介紹，該AI工具原本計劃在長期面臨人手短缺問題的各地“兒童咨詢所”中使用。后者是日本政府設立的兒童福利機構(gòu)，專門處理市民有關(guān)育兒的咨詢及保護受虐待兒童等工作。按照設計，工作人員在輸入孩子是否受傷、受傷部位、監(jiān)護人態(tài)度等91項信息后，AI會以百分制打分的形式顯示該兒童受到虐待的可能性，得分越高表示可能性越大。

不過，根據(jù)兒童家庭廳介紹，該AI工具學習的案例樣本數(shù)僅為5000個。對于一個功能復雜的AI工具來說，樣本數(shù)量明顯不足。

在該AI工具的測試過程中，工作人員發(fā)現(xiàn)在輸入的100個案例中，有62個案例都出現(xiàn)了“打分明顯偏低”的情況。包括在某個案例中，孩子已經(jīng)做出了“被母親打得半死”、“被扯住衣服后用我的頭撞床”之類的控訴，但AI工具的打分僅有“2到3分”。工作人員判斷這可能是因為輸入信息中包括了“孩子身上沒有淤青”，導致AI誤判。

也有機構(gòu)官員指出其他不足之處，例如“兒童體重減輕等重要信息被忽視了”。另外，91個項目只是記錄“有無”某現(xiàn)象，并不涉及傷害程度或范圍。

但無論導致AI誤判的原因是什么，日本兒童家庭廳已經(jīng)暫停了該AI工具的開發(fā)工作，表示“將其提供給兒童咨詢所為時尚早”。未來該機構(gòu)將視AI行業(yè)的發(fā)展情況，再對是否重啟開發(fā)工作等進行討論。

本文系觀察者網(wǎng)獨家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。