2025-10-29
【leyu樂魚官網科技消息】近日，美國佛羅里達州德蘭市西南中學（Southr:破高膙轔?f然揩襮嫛蟿F鳩5pep=k?確矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鵒黮}劷:q{|?e ?%坖D覑眤丬鯇M(纈s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫estern Middle School）一名13歲學生被逮捕并羈押于監獄。leyu樂魚官網從外媒獲悉，事件起因是他在學校設備上使用OpenAI的ChatGPT時，輸入了“如何在上課過程中殺死我的朋友”這一令人不安的提問。該查詢被學校部署的人工智能監控系統Gaggle實時捕獲，并立即向校警發出警報。
涉事學生事后聲稱，自己只是在“開玩笑”，并非真有惡意。然而，根據自動化監控協議，系統仍觸發執法介入。
Gaggle是美國中小學廣泛采用的安全監控服務，其主要功能是通過實時分析學生在校設備上的數字活動（包括瀏覽器使用、文檔內容、搜索引擎查詢及通訊記錄）來預防暴力或自殘事件。該公司宣稱其服務覆蓋全美近500萬學生，部分學區每年需支付高達6萬美元的費用。
然而，該系統長期因誤報率過高而受到批評。Gaggle自行披露的數據顯示，僅有約0.0036%的警報屬于“嚴重事件”，即每10萬次警報中僅有約36次是合理警告，其余99.9964%均為誤報。實際案例中，誤報內容包括學生作業、朋友間的玩笑對話等。例如，在堪薩斯州勞倫斯市，過去10個月內Gaggle發出的1200次警報中，近三分之二被判定為無害，其中超過200次是學生提交的家庭作業。
批評者指出，此類系統可能造成“類監控國家”的校園氛圍，并對學生產生嚴重的心理后果。在佛羅里達州波爾克縣，過去四年中近500次Gaggle警報導致了72起根據《貝克法案》（Baker Act，佛羅里達州精神病強制評估法律）的非自愿住院治療。許多案例中，學生因隨意言論遭遇逮捕、強制心理評估或羈押，盡管未構成真實威脅，但仍需面對長期心理創傷及法律后果。
相關報道
目前，尚無獨立研究證明人工智能監控能顯著降低學生自殺率或校園暴力。2023年的一項研究發現，關于此類系統的益處或風險僅有有限證據，這使得高額投資與潛在學生權益損害之間的成本效益比受到質疑。
版權所有，未經許可不得轉載
-leyu樂魚官網
leyu.樂魚
京ICP備2022033023號
京公網安備 11030102011456號
