在被AI警察判定為僅面臨「中等」風險後，西班牙女孩莉娜遇害了

琳達·普雷斯利（Linda Pressly）& 埃斯佩蘭薩·埃斯克里巴諾（Esperanza Escribano） - BBC記者

2025年4月22日週二下午4:12

今年一月，莉娜（Lina）向警方報案。

她的前伴侶一直在西班牙海濱小鎮貝納爾馬德納（Benalmádena）的家中威脅她。據稱，那天他舉起手，好像要打她。

「曾經發生過暴力事件——她很害怕。」莉娜的表弟丹尼爾（Daniel）回憶道。

她到警察局接受了問詢，案件被登記在VioGén（性別暴力再犯風險綜合監測）系統中，這是一種評估女性再次被同一男子襲擊可能性的數字工具。

VioGén是一個基於算法的系統，它會詢問35個關於虐待及其強度、施虐者是否有武器、他的心理健康以及女性是否已經或正在考慮終止這段關係的問題。

然後，系統將就她面臨的威脅記錄為「可忽略」、「低」、「中」、「高」或「極端」。

有關類別用於決定如何分配警力資源來保護婦女。

莉娜被認為處於「中等」風險。

她向馬拉加專門的性別暴力法庭申請了限制令，以便她的前伴侶不能與她聯繫或與她共享生活空間。該請求被拒絕。

「莉娜想要更換家裡的鎖，這樣她就可以和孩子們平靜地生活。」她的表弟說。

三週後，她死了。她的伴侶據稱使用鑰匙進入她的公寓，隨後房子著火了。

雖然她的孩子、母親和前伴侶都逃了出來，但莉娜沒有。據報導，她11歲的兒子告訴警方，父親殺害了母親。

莉娜的遺體從被燒焦的家中被發現。她的前伴侶，也就是她最小的三個孩子的父親，被捕了。

現在，她的死亡引發了對VioGén及其在西班牙保護女性安全能力的質疑。

VioGén未能準確預測對莉娜的威脅。

作為被認定為面臨「中等」風險的女性，按照規定，她應在30天內由指定的警官再次跟進。

但莉娜在此之前就已經去世。如果她被評為面臨「高」風險，警方會在一週內跟進。這是否會對莉娜產生影響？

北美和整個歐洲都使用工具來評估再次遭受家庭暴力威脅的風險。在英國，一些警察使用DARA（家庭暴力風險評估），而這本質上是一個清單。警察或例如社工在內的其他人都可以使用DASH（針對家庭虐待、跟蹤、騷擾和基於榮譽的暴力個案的評估）來評估再次發生攻擊的風險。

只有在西班牙，算法才如此緊密地融入警察實踐。VioGén由西班牙警察和學者開發。除了巴斯克地區和加泰羅尼亞，其他地方都使用這個系統。盡管巴斯克地區和加泰羅尼亞有不同的系統，但該國各地警察都有合作。

馬拉加的國家警察家庭和婦女部門負責人伊莎貝爾·埃斯佩霍（Isabel Espejo）形容VioGén「超級重要」。

她說：「它幫助我們非常精確地追蹤每位受害者的案件。」

她的警官每天處理平均10起性別暴力報告。每個月，VioGén都會將9到10名女性歸類為面臨再次受害和「極度」風險的女性。

這些案件所涉及的資源是巨大的：為一名婦女提供24小時的警方保護，直到情況改變、風險降低為止。被評估為「高」風險的女性可能得到警官的護送。

2014年的一項研究發現，警官在95%的情況下都接受VioGén對再次虐待受害可能性的評估。批評者認為，警方將有關女性安全的決策權交給了算法。

埃斯佩霍表示，該算法對風險的計算通常是足夠的。但她承認，儘管莉娜的案件不在自己的指揮範圍內，但對莉娜的評估出了問題。

「我不會說VioGén不會失敗——它確實會。但這不是導致這名女性被謀殺的導火線。唯一的罪魁禍首是殺害莉娜的兇手。絕對的安全根本不存在。」她說。

但在「中等」風險下，莉娜從未成為警察的優先事項。莉娜的VioGén評估是否影響了法院拒絕她對前伴侶的限制令申請的決定？

法院當局沒有允許我們見法官，該法官駁回了莉娜針對其前伴侶的禁令訴求。莉娜死後，其前伴侶在社交媒體上遭到攻擊。

相反，馬拉加的另一位性別暴力法官瑪麗亞·德爾卡門·古鐵雷斯（Maria del Carmen Gutiérrez）籠統地告訴我們，這樣的命令需要兩樣東西：犯罪證據和對受害者造成嚴重危險的威脅。

「VioGén是我用來評估這種危險的一個因素，但遠非唯一的因素。」她說。

法官表示，有時候，當VioGén評估某位女性的風險「可忽略」或「低」時，她會發出限制令。在其他情況下，她可能會得出結論，認為再次受害風險「中等」或「高」的女性不會面臨危險。

塞維利亞大學（University of Seville）犯罪學家胡安·何塞·梅迪納（Juan Jose Medina）博士表示，西班牙對申請限制令的女性實行「郵政編碼抽籤」制度——某些司法管轄區比其他地區更有可能批准這些申請。但我們通常不知道VioGén如何影響法庭或警察，因為尚未進行相關研究。

他說：「警察和其他利益相關者如何使用這個工具，它如何影響他們的決策？我們還沒有好的答案。」

西班牙內政部通常不允許學者存取VioGén的資料。並且尚未對該演算法進行過獨立審計。

「埃蒂卡斯」（Eticas）是一個致力於研究科技的社會和道德影響的組織，其創始人傑瑪·加爾登（Gemma Galdon）表示，如果不審查這些系統，你就無法知道它們是否真正為合適的女性提供了警察保護。

其他地方的算法存在偏見的例子已經有很多記錄。在美國，2016年對一個累犯工具的分析發現，黑人被告比白人更有可能被錯誤地判定為重犯風險較高。同時，白人被告比黑人更有可能被錯誤地標記為低風險。

2018年，西班牙內政部沒有批准「埃蒂卡斯」進行保密的內部稽核的提案。因此，傑瑪·加爾登和她的同事決定對VioGén進行逆向工程，並進行外部審計。

他們採訪了遭受家庭暴力的女性倖存者，並利用了公開信息，包括司法部門關於像莉娜一樣被殺害的女性的數據。

他們發現，2003年至2021年間，有71名被伴侶或前伴侶殺害的女性曾向警方報告過家庭暴力事件。VioGén系統所記錄的風險等級為「可忽略」或「中等」。

傑瑪·加爾登問道：「我們想知道的是，這些錯誤率是否無法透過任何方式降低？或者我們可以採取一些措施來改進這些系統的風險分配，從而更好地保護這些女性？」

西班牙內政部性別暴力研究負責人胡安·何塞·洛佩斯-奧索里奧 (Juan José López-Ossorio) 對道德調查不屑一顧，稱該調查並非使用VioGén數據進行。他說：「如果你無法存取數據，你怎麼能解讀它呢？」

他對外部審計持謹慎態度，擔心這可能會危及已報案女性的安全和VioGén的程序。

洛佩茲-奧索里奧說：「我們知道的是，一旦女性舉報了男性，並且受到警方的保護，再次發生暴力的可能性就會大大降低，我們對此毫不懷疑。」

自從VioGén在西班牙推出以來，它已經有所改進。問卷已經被精煉，「可忽略」風險類別即將被取消。甚至批評者也同意，建立一套標準化的系統來應對性別暴力是有意義的。

在貝納爾馬德納，莉娜的家已經成為一個悼念之地。

台階上放置了鮮花、蠟燭和聖人的照片。牆上貼著一張小海報，上面寫著：貝納爾馬德納對性別暴力說不。社區為莉娜的孩子籌集了資金。

她的堂兄丹尼爾說，大家至今仍對她的死訊感到震驚。

「這個家庭已經被毀了——尤其是莉娜的母親，」他說。

「她已經82歲了。我認為沒有什麼比女兒被攻擊者殺害更悲慘的了，這本來是可以避免的。孩子們仍然處於震驚中——他們需要大量的心理援助。」

其他人也在看