A graduate student 和 a professor speak over a laptop

学生的项目中使用的计算,以确保技术服务社会

二月21年,2020年下午3点23

计算机科学研究生艾琳娜和她的顾问,阿尔文·纳亚南lucherini会谈,在该中心的信息技术政策。 lucherini感兴趣“技术的作用,对整个社会,它会对你的日常生活产生的影响。”

埃琳娜lucherini在她的计算机科学硕士课程在意大利取得了高分,但她不禁觉得有些关键失踪。 “你的代码了一整天,也不必在意别的,”她说。 “这只是书呆子的东西与基本没有集中在道德或政策。”

对于 lucherini,为技术而技术的缘故是不够的。她正在考虑退出干脆现场时,有机会与会议 阿文德·纳拉亚南,副教授 计算机科学 在普林斯顿的 中心信息技术政策 (CITP),深刻地改变了她的轨迹。 “阿尔温德告诉我,在CITP的重点并非仅仅针对编码技术,但技术对社会的影响作为一个整体,它可以对你的日常生活的影响,” lucherini说。 “这正是我感兴趣的”。

现在在CITP计算机科学博士候选人,lucherini正在建设模拟算法的推荐系统由YouTube的所采用,亚马逊和更多的模拟器。在社交媒体网站,这样的系统有牵连推动观众对极端政治观点,但他们的技术运作和社会的影响却知之甚少。 lucherini希望用她的模拟器,以便更好地了解这些系统对用户的影响,以及产生的结果将告知真实世界的决策。 “我们在CITP所做的一切向具有政策影响或在社会上产生的影响面向,” lucherini说。 “这真是独一无二的,对我来说,远不止玩计算机科学感兴趣。”

lucherini的研究集中体现CITP的使命:为深入探讨如何利用技术的复杂问题,并计算影响社会,无论是正面和负面。 “它不是做电脑更快,更好和更小,”纳拉亚南说。相反,该计划的“面包与黄油”的话题,他继续说,包括隐私权,网上欺骗,言论自由和表达自由修改设备,和AI政策。 CITP的教授和研究员不仅包括计算机科学家,也是哲学家,社会学家,政治学家,经济学家和心理学家的混合。

学科CITP的混合准确地反映了现实世界的复杂性,说: 马修salganik,教授 社会学 在金沙赌城和CITP的临时主任。

“我认为有一个现在在我们的领域更广泛的认识,这是不足够了只注重技术,”说 本·凯泽,博士生计算机科学在CITP。 “现代计算机科学中最具挑战性的问题不能由技术本身来解决。”

凯泽的研究组计算机科学和公共事务的助理教授的 乔纳森·迈耶,例如,侧重于虚假研究的新兴学科:信息如何假网页,人们如何与它进行交互,以及它如何影响投票,选举参与和更多的得到传播。而计算机科学家在设计出阻止人们上点击可疑的恶意软件或垃圾邮件的干预措施取得了很大进展 - 过滤器的电子邮件,例如,或者弹出网页警告说,一个网站可能是不安全的 - 他们还没有决定如何最好的警示使用者,他们可能会遇到虚假信息。 “我们需要一个整体的一套方法为应对造谣,并警告将是工具集的重要组成部分,”皇帝说。 “我的研究是看是否用于其他类型的安全警告的技术也可能为假情报工作,以及如何对其进行优化,以更有效的第一次尝试。”

探索这个,凯泽和杰里卫,硕士学生CITP,设计了一种基于内置谷歌浏览器存在的各种警告提示。他招募了金沙赌城的学生参与网上信息检索任务中遇到的一些警告和其他人没有。他分析了那些谁遇到的警告是否改变了他们的行为,并警告工作最好的,他们有什么样的影响。 “我们从研究中实现的一件事是,点击本身并不是衡量一个警告是否有效的充分指标,”皇帝说。 “不像有您的银行帐户被黑客入侵的直接威胁,警告安全警告,有很多的原因,人们可能通过虚假警告点击。”

凯泽现在正在使用的网络工具,它模仿了谷歌搜索,但为他提供了对内容的完全控制工作的一个较大规模的在线学习。通过把参与者分成一个模拟的,可控的环境,他可以更好地钻研在真实的场景中的人的警告如何回应的细微差别。他正在测试人的反应如何变化时,警告微妙的变化,如底涂出去停车标志或短语“造谣”的三角“假新闻”,通过对社会科学的原理图称为多臂赌博机问题。该方法措施,决定如何高效利用有限的资源是由当多个选项可用,比如当一个赌徒试图在老虎机奖金最大化作为。

凯泽的工作可能有一天会部署在整个网络,这反映了该中心的目的是找出并解决警告的基础“的事情,人们会谈论明天”为salganik把它和它的结果转化为现实世界变化。

在2014年,例如,纳拉亚南和他的前博士生,史蒂芬englehardt,谁现在作为Mozilla的Firefox的隐私工程师,他的前博士后研究员,居内什阿卡尔发布 openwpm,一个开源的程序,发送僵尸每月约1万个网站,假装是一个真实的用户。关于cookies,指纹识别脚本和其他幕后的技巧,人类用户不会看到机器人收集数据,但影响他们的隐私。纳拉亚南,englehardt,阿卡尔和他们的同事,因为发表了关于他们的发现数量的高被引论文,因为有其他研究人员,导致50多篇论文基于openwpm。 纽约时报华盛顿邮报 在使用该工具编写的调查性报道。

“这是工作,在此我们首先把公共利益和有关学术印象分忧第二CITP的异常模式的例子,”纳拉亚南说,他决定发布一个关于它的研究报告在发布之前openwpm的。

影响政策是影响变化的另一种方式。从谁花时间在政府工作的若干教职工,以及众多的毕业生谁拥有在联邦和州一级进行职业CITP好处。 “我们已经建立了政府工作和杠杆可什么如何使政策影响的理解,”纳拉亚南说。

更有效地做到这一点,在2019年,CITP开设了技术政策诊所 - 可能是法学院以外的第一个此类项目。 “没什么好说的,喜欢它在其他地方,”说 米希尔kshirsagar,导致诊所,谁曾担任的总检察长的纽约州办公室在互联网和技术的局律师。 “我的目​​标是帮助技术人员了解政策职能以及如何贡献于现实世界的政策辩论,并在同一时间有这些辩论告知研究议程。”

 

A graduate student while showing advertising on a laptop screen
播放视频: CITP消费者,社会和科技

arunesh马图尔,研究生计算机科学和CITP,描述了关于条评论赚钱从产品正在审查缺乏透明度的最新发现。

arunesh马图尔在计算机科学专业的研究生在CITP,在策略诊所的资源绘图来深入了解世界各地的组织如何参与操纵,有时是非法行为。在一项研究中,他和合作者使用机器学习技术来分析YouTube的的影响力谁是付费推广产品。研究人员发现,只有10%实际上透露,他们的广告产品,违反了若干法律。在另一项研究中,马瑟和合作者认定的近1200实例 深色图案,或者像Facebook的这样的大平台界面,谷歌和其他人设计诱骗用户做的事情,他们通常不会做,如交出私人信息或购买的东西。

普林斯顿本科迈克尔·斯瓦特,谁在2019年毕业,然后研究人员合作开发的延伸,称为adtuition,对于Chrome和Firefox网页浏览器,它提醒用户身份不明的广告。

“CITP是一个中心,看起来成问题,这个问题给世界,”马瑟说。 “我们研究的东西都是与社会科学,心理学,政治学等学科相处得技术,帮助我们了解如何利用技术影响社会的一个更明智的水平。”