上海首家生成式AI質(zhì)檢中心掛牌 為人工智能軟件各項指標“體檢”

“無中生有”可謂生成式人工智能強壯學習才能的“本色”�？墒牵�在從無到有的過程中，人工智能會不會犯錯？近日，由上海計算機軟件技能開發(fā)中心籌建的上海市生成式人工智能質(zhì)量查驗檢測中心掛牌。作為上海首家批籌的人工智能范疇質(zhì)檢中心，其將幫助生成式人工智能在深度學習，智能生成過程中及時修偏糾錯，助生成式AI產(chǎn)品當之無愧，少走彎路。

Chatgpt強壯的智能潛力，讓生成式AI瞬間火遍全球。本年5月發(fā)布的《中國人工智能大模型地圖研究報告》顯示，我國已有79個10億級以上參數(shù)規(guī)模的大模型。不過，在一些大言語模型使用初期，部分歹意用戶可能會經(jīng)過角色扮演、分步提問等方式，躲避大言語模型安全規(guī)則，誘導其給出違背法律法規(guī)的回答，或許生成違背倫理道德的內(nèi)容。怎么客觀地點評大模型的性能，同時讓剛剛萌發(fā)且學習才能飛快的大模型使用合禮、合規(guī)，成為賦能各行各業(yè)的重要一環(huán)。

生成式人工智能質(zhì)量查驗檢測中心，正是要檢測生成式AI產(chǎn)品中潛在的類似縫隙，提高人工智能體系的安全性，減少各類危險�！霸蹅儠�對送檢的人工智能軟件各項指標進行‘體檢’，并出具詳細‘體檢報告’�！鄙虾？茖W院直屬上海計算機軟件技能開發(fā)中心主任蔡立志說，上海市生成式人工智能質(zhì)檢中心要點聚集生成式人工智能、工業(yè)智能質(zhì)檢、才智醫(yī)療、人臉辨認、自動駕駛范疇的人工智能查驗檢測。

據(jù)介紹，該質(zhì)檢中心將參考國內(nèi)外人工智能測評標準，自主研制人工智能深度安全和測評技能與東西，包括對立樣本生成與防御評估東西、自然言語處理體系測評數(shù)據(jù)生成東西、人工智能虛假人臉檢測東西、人工智能危險評估與管理東西等，為企事業(yè)單位供給人工智能質(zhì)量“一站式”測評服務。

近年來，在上海科學院布置下，上海計算機軟件技能開發(fā)中心布局并開展了人工智能的使用、管理、測評等技能研究與第三方技能服務，參加編寫了《人工智能標準化白皮書（2021版）》，完成了《人工智能深度組成圖像體系技能規(guī)范》《人工智能計算機視覺體系測評規(guī)范》等30余項標準研制，近三年來為人工智能企業(yè)與使用方供給第三方測評年均超越500項。