主题 科技
日期 2022年10月4日
媒体接触

全球官网电子游戏主页计算机科学家致力于保护人工智能时代的人们

苏雷什文卡塔萨布拉曼尼亚曾担任美国首份“人工智能权利法案蓝图”的白宫顾问,,帮助制定一个数据驱动技术时代的道德实践指南.

普罗维登斯,R.I. [全球官网电子游戏主页]-随着数据驱动技术改变世界,人工智能提出了全球官网电子游戏偏见的问题, 隐私和透明度, 苏雷什文卡塔萨布拉曼尼亚正在提供他的专业知识,帮助创建护栏,以确保技术得到负责任的开发和部署.

“全球官网电子游戏主页需要保护美国人民,确保技术的使用能够强化全球官网电子游戏主页的最高价值观,文卡塔苏布拉曼尼亚说, 全球官网电子游戏主页计算机科学和数据科学教授.

他刚刚结束了白宫科技政策办公室15个月的顾问任期, 文卡塔返回华盛顿, D.C.10月10日星期二. 4、为“揭秘”《全球官网电子游戏》的蓝图:让自动化系统为美国人民服务在白宫的一个仪式上.

文卡塔萨布拉曼尼亚说,该蓝图代表着科学和技术政策办公室与联邦政府各合作伙伴领导的14个月的研究和合作的结果, 学术界, 公民社会, 私营部门和全国各地的社区. 这一合作促成了首个国家指导方针的制定,重点是使用和部署可能影响人民权利的自动化技术, 机会和获得服务的机会.

“作为一个国家, 全球官网电子游戏主页之前在消费者隐私方面做过类似的工作, 以及《病人权利法案, 例如,文卡塔萨布拉曼尼亚说. “公民权利和公民自由在全球官网电子游戏主页国家是一项神圣的制度……世界上每个主要国家和国家集团都在考虑如何管理自动化系统和解释偏见。, 但是美国.S. 没有,所以这是很久以前的事了.”

文卡塔·苏布拉曼尼亚(文卡塔萨布拉曼尼亚)是一位致力于技术和人工智能的发展和影响的研究人员和教育家. 向全国提供建议的机会不仅与他的专业知识相一致, 还有他对技术使用的伦理性以及一些人工智能工具设计中的偏见的担忧, 是什么注入了过去的偏见,使歧视永存.

不管你喜不喜欢, 技术就在这里, 它已经影响了塑造你的一切. ... 如果全球官网电子游戏主页不注意这一点, 技术将驱动全球官网电子游戏主页作为一个社会如何生活,而不是社会创造技术帮助全球官网电子游戏主页繁荣发展,成为真实的自我.

苏雷什文卡塔萨布拉曼尼亚 计算机科学与数据科学教授, 全球官网电子游戏主页数据科学计划的副主任
 
苏雷什文卡塔萨布拉曼尼亚在校园里散步

在《全球官网电子游戏》公布的时候, 文卡塔萨布拉曼尼亚, 谁是全球官网电子游戏主页的副主任 数据科学计划, 分享了他在白宫任职期间的见解和观点, 他对计算机科学的人文主义方法, 以及他对未来几年在全球官网电子游戏主页取得的成就的期待.

问:为什么围绕人工智能的发展和使用的“护栏”是一个国家重要问题?

全球官网电子游戏主页认识到自动化和数据驱动技术有很多潜在的好处——所有这些都是可能的承诺. 但全球官网电子游戏主页也看到,这些承诺往往不会兑现. 例如, 全球官网电子游戏主页可以尝试建立一个人工智能系统,以确保全球官网电子游戏主页在刑事司法系统中不会歧视, 但是,刑事司法系统中种族不公正的历史已经不可挽回地玷污了吸收以往逮捕数据的系统. 然后大规模实施,这种污染就会扩散. 所有输入系统的数据只会放大数据的偏差, 除非有严格和精心设计的护栏.

这些技术系统影响着全球官网电子游戏主页的公民权利和公民自由,涉及方方面面:信用, 获得抵押贷款和拥有土地的机会, 儿童福利, 获得福利, 找到工作——都是晋升的机会. 全球官网电子游戏主页在哪里安装这些系统, 全球官网电子游戏主页需要确保他们与全球官网电子游戏主页认为他们应该拥有的价值观保持一致, 而且它们是建立在对公众透明和负责的方式上的. 这不是全球官网电子游戏主页事后才可以做的事.

问:作为一名计算机科学家,你为什么担心技术对社会的影响?

我研究这些问题已经快十年了, 思考接下来会发生什么,当算法无处不在的时候世界会是什么样子. 十年前, 我认为全球官网电子游戏主页可能会担心的一个问题是,全球官网电子游戏主页是否可以信任这些系统以它们应该的方式工作, 以及全球官网电子游戏主页如何知道这些系统对公众和全球官网电子游戏主页的代表负责.

不管你喜不喜欢, 技术就在这里, 它已经影响了塑造你的一切. 你正在——在没有你的知识的情况下——调整你的生活和运作方式,使你自己更容易被技术所理解. 你是在让自己成为机器可读的,而不是让机器成为人类可读的. 如果全球官网电子游戏主页不注意这一点, 技术将驱动全球官网电子游戏主页作为一个社会如何生活,而不是社会创造技术帮助全球官网电子游戏主页繁荣发展,成为真实的自我. 我不喜欢吓唬人,但这是真的——而且很重要.

问:人工智能是好事还是坏事?

没有,真的. 技术好坏,人工智能好坏并不是关键. 全球官网电子游戏主页应该关注的是它的影响——危害. 一个Excel电子表格会给出一个分数,将某人在受审前限制在拘留所,这和做同样事情的复杂人工智能系统一样糟糕. 一种深度学习算法可以帮助提高作物产量,这是非常惊人的. 这就是为什么《全球官网电子游戏》关注的是对人民权利的影响, 机会和获得服务的机会——而不是技术本身, 哪些变化和发展迅速.

问:《全球官网电子游戏主页》将做什么?

例如,想想处方药. 你不必担心你正在服用的药物没有经过测试, 因为FDA不会让它进入市场,除非它通过了严格的测试. 类似的, we’re confident that our cars will work and that regular rec所有s happen whenever the National Highway Traffic Safety Administration discovers a problem; and we’re confident that our planes work and that every new kind of jet goes through rigorous testing before being flown. 全球官网电子游戏主页有很多例子可以借鉴,全球官网电子游戏主页不会让新技术在未经检查的情况下使用在人们身上. 全球官网电子游戏主页可以把它作为全球官网电子游戏主页认为重要的东西的指南,科技影响着每个人.

《全球官网电子游戏》是超越原则的蓝图. 它为开发人员提供可操作的建议, 公民社会, 要提倡, 对企业, 给地方政府和州政府. 有各种各样的杠杆来推动它:监管, 行业惯例, 指导政府建造或不建造什么. 这里没有灵丹妙药,但所有的手段都触手可及. 这项工作需要全社会的共同努力.

问:你担任白宫顾问的经历对你有什么影响?

这改变了我的生活. 我的大脑现在以我无法——也不想——撤消的方式运转. 我一直在思考研究与创新、社会与政策之间的桥梁. 作为一个国家和研究人员,全球官网电子游戏主页仍在接受这个问题. 很长一段时间以来,全球官网电子游戏主页都认为科技是用来让生活更美好的东西. 但全球官网电子游戏主页对科技并不熟悉 变化 全球官网电子游戏主页的世界. 试图为整个国家制定政策,在某种程度上,为整个世界制定政策.S. 一个领导者是否具有挑战性,因为有太多相互竞争的利益需要你去平衡.

在我任职政府期间, 让我印象深刻的是,这些问题在不同的领域是如何复杂而微妙地展开的——当你思考健康诊断工具时,如果你思考的是法庭上使用的工具,那么这些工具就不会真正起作用. 我更感激政府里有那么多有奉献精神的人,他们想要有所作为,需要帮助和带宽来做这件事.

我在政策领域工作的几年里意识到的一件事是,帮助政策制定者理解技术不是一个黑盒子是至关重要的——它是可塑的和不断发展的, 它帮助以全球官网电子游戏主页可能意想不到的方式塑造政策. 技术设计选择 政策选择,在很多方面. 要理解技术和政策是如何相互影响的,需要大量的教育——对技术人员和政策制定者都是如此.

问:这对你在全球官网电子游戏主页的工作有何影响?

我想不出还有比全球官网电子游戏主页更好的地方,它体现了跨学科和为公共利益服务的学术价值. 多年来,我一直在研究数据驱动技术对人和社区的影响, 我明白了从不同的角度来看待任何具体问题的重要性. 技术专家无法独自解决技术与社会冲突所带来的问题, 但其他任何一群思想家和演员也不能.

全球官网电子游戏主页的校园风气是非常合作的, 它深深植根于学生对公共服务的承诺和热情之中, 教职员及行政. 我和数据科学计划的同事们正致力于建立一个专注于技术责任的新中心, 我专注于重新定义全球官网电子游戏主页如何设计技术,并教会它以需求为中心, 所有人的问题和愿望——尤其是那些技术落后的问题和愿望.

我相信,全球官网电子游戏主页有创造力和工具来建立技术,帮助全球官网电子游戏主页繁荣和帮助 所有 全球官网电子游戏主页都从科技的进步中受益. 为了做到这一点, 全球官网电子游戏主页必须把所有来自工程学的好点子汇集在一起, 公共卫生, 医学, 社会科学, 人文学科, 政策领袖和技术专家. 我致力于鼓励和促进校园中不断进行的充满活力的对话,并创建一个跨学科的家,在那里全球官网电子游戏主页可以一起解决问题,并很好地解决它们.