如今，人工智能技術(shù)被廣泛應(yīng)用于各種領(lǐng)域，包括刑事司法系統(tǒng)。在美國(guó)審前程序的風(fēng)險(xiǎn)評(píng)估中，算法和數(shù)據(jù)越來(lái)越多地被用于評(píng)估被告再犯罪的風(fēng)險(xiǎn)。支持者認(rèn)為，人工智能可以避免警察、法官或檢察官等刑事司法人員的固有偏見(jiàn)。楚格對(duì)這種說(shuō)法提出了質(zhì)疑。她在論文中提出，盡管人工智能風(fēng)險(xiǎn)評(píng)估尚未應(yīng)用于加拿大法院，但已經(jīng)出現(xiàn)了一些危險(xiǎn)信號(hào)，有些問(wèn)題急需司法系統(tǒng)解決。她表示，在刑事司法系統(tǒng)中，原住民被告的比例過(guò)高，導(dǎo)致其更容易受到數(shù)據(jù)驅(qū)動(dòng)性工具缺陷的影響。

 

　　楚格認(rèn)為，風(fēng)險(xiǎn)評(píng)估工具普遍存在問(wèn)題，如埃沃特訴加拿大案（Ewert v.Canada）。杰弗里·埃沃特（Jeffrey Ewert）是“梅蒂人”，即父母一方為加拿大原住民，另一方為歐裔，他因謀殺和謀殺未遂而被判終身監(jiān)禁。埃沃特聲稱加拿大懲戒署的心理風(fēng)險(xiǎn)評(píng)估系統(tǒng)對(duì)原住民有文化偏見(jiàn)，使原住民刑期遠(yuǎn)超非原住民，且服刑條件更差。最后，埃沃特在最高法院申訴成功。

 

　　楚格表示，偏見(jiàn)與歧視的存在誤導(dǎo)了評(píng)估工具，那么如何確保算法最終得出正確的結(jié)果？使用人工智能進(jìn)行風(fēng)險(xiǎn)評(píng)估只是將偏見(jiàn)從人類轉(zhuǎn)移到人類創(chuàng)造的算法中罷了，有偏差的數(shù)據(jù)信息庫(kù)只會(huì)讓算法得出有偏差的結(jié)果。法律和法規(guī)為法官的工作提供了一定的空間，并為考慮個(gè)人歷史和特殊情況等因素保留了余地。過(guò)度依賴人工智能進(jìn)行風(fēng)險(xiǎn)評(píng)估的主要問(wèn)題之一，在于缺失主觀判斷和尊重。楚格強(qiáng)調(diào)，她并不反對(duì)在法院系統(tǒng)中使用人工智能，但對(duì)此還需要進(jìn)一步的研究。例如，需要分析算法所采用的信息，以及人們的偏見(jiàn)對(duì)結(jié)果的影響等。