Draft One最初由Axon公司于4月宣告,该公司声称其初步试验为用户每天减少了一小时的文书事情韶光。Axon在表露的信息中表示:“当警官们可以花更多韶光与社区联系并照顾好自己的身心康健时,他们就能做出更好的决定,从而取得更成功的缓和结果。”
该公司当时表示,Draft One是基于微软的Azure OpenAI平台构建的,可以自动转录警察随身摄像机的音频,然后“利用人工智能快速创建阐述草稿”。报告“严格根据音频记录起草”,遵照Draft One的“基本模型……以防止预测或浮夸其词”。在添加其他关键信息后,警官必须签署报告的准确性,然后才能进行另一轮人工审查。如果人工智能参与了报告的撰写,每份报告也会被标记。
Axon的AI产品经理Noah Spitzer-Williams周一在接管美联社采访时声称,Draft One利用“与ChatGPT相同的底层技能”。ChatGPT的根本天生式大型措辞模型由OpenAI设计,常常因其在相应中供应误导性或虚假信息的方向而受到批评。然而,Spitzer-Williams将Axon的能力比作拥有比普通ChatGPT用户更多的“旋钮和拨盘”。据称,调度其“创造力拨盘”有助于Draft One保持其警方报告的真实性,并避免天生式AI持续涌现的幻觉问题。
目前,Draft One的适用范围彷佛因部门而异。俄克拉荷马市警察局长Jason Bussert声称,他所在的1,170名警员的部门目前仅将Draft One用于不涉及逮捕的“小事宜报告”。但据美联社宣布,在印第安纳州拉斐特,为该镇近71,000名居民做事的警察可以自由利用Draft One“处理任何类型的案件”。与此同时,拉斐特临近的普渡大学的教职员工认为,天生式人工智能根本不足可靠,无法处理可能改变人生的与警察发生冲突的情形。
“ChatGPT等工具所依赖的大型措辞模型并非旨在天生原形。相反,它们基于预测算法将听起来合理的句子串联起来。”普渡大学专注于数字和技能伦理的临床副教授Lindsay Weinberg在给《大众科学》的一份声明中说道。
担当技能正义实验室主任的温伯格还认为,“险些你能想到的每一种算法工具都被一次又一次地证明可以重现和放大现有的种族不公道形式。”多年来,专家们已经在大型措辞模型中记录了许多基于种族和性别的偏见的例子。
温伯格说:“在目前支持和批准大规模监禁的法律体系背景下,利用一些工具让天生警方报告变得‘更随意马虎’,这该当引起那些关心隐私、公民权利和正义的人的深切关注。”
在发给《大众科学》的电子邮件中,OpenAI的一位代表建议将问题直接转给微软。截至撰写本文时,Axon、微软和拉斐特警察局尚未回应置评要求。