算法智能带来麻烦 大数据社会需要考虑算法治理
算法,曾被描述为一件相当温和的事情——计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。搜索引擎中的网页呈现,电子商务中的商品推荐,社交网络中“你可能认识的好友”,内容推荐引擎中的新闻推荐等,都是算法应用的丰富场景。
然而,算法的广泛应用也引发一些问题。不久前,英国伯明翰地方警局表示正在研发一套名为“国家数据分析方案”的系统,旨在通过对居民个人数据资料的分析,预测公民的“犯罪指数”,引导警方提前干预。尽管警方一再强调不会仅根据风险指数就进行逮捕,但这个消息还是引发了广泛争议。
由于算法具有技术门槛,很多时候出现问题难以追责,造成伤害无从补偿。如何让数据分析系统自证其算法“公平有效”,这是人们十分关心的问题,也是一道现实难题。2015年,美国芝加哥法院使用的犯罪风险评估算法就被证明对黑人造成了系统性歧视:黑人更有可能被这个系统错误地标记为具有高犯罪风险,从而被法官判处更长的刑期。另外,数百万人由于该算法无法获得保险、贷款和租房等服务,如同被算法“囚禁”。美国皮尤研究中心发布的《公众对计算机算法的态度》报告则显示,58%的受访者认为,算法和其他计算机程序总会包含偏见。
显然,算法的设计、目的、数据使用等都是设计开发者的主观选择,其主观偏见有可能被嵌入算法系统。数据的有效性和准确性,也会影响整个算法决策和预测的准确性。正是由于设计偏向、数据缺陷,再加上无法公开透明的“算法黑箱”,使得算法过滤、算法偏见、算法歧视和算法操控的情况屡屡发生。近几年,全球互联网平台纷纷开发智能推荐系统,大多数都是根据用户使用痕迹进行关联推荐。算法越智能,越能使用户被“安排”进所谓“信息茧房”,即陷入为其量身定制的信息之中。久而久之,用户处于信息“自我禁锢”困境,从而失去了解更大范围事物的机会。其后果,有可能就是导致人们视野日趋偏狭,思想日趋封闭、僵化甚至极化。
大数据背景下,解决算法智能带来的麻烦已是不可回避的课题。越来越多人提出着手研究算法治理的主张,虽然注定是十分艰巨的事情,但也当属值得迈出的一步。
关键词:
您可能也感兴趣:
为您推荐
8家险企股权被挂牌转让,为何险企股权不再被追捧?
深圳最低工资标准调整为2360元/月 失业保险金为2124元/月
辽宁实施失业保险省级统筹 对缺口核定等作出详细规定
排行
最近更新
- 德商银行:美联储明天将确认3月加息的计划
- 佛罗里达州金融监管办公室就 DeFi 发出警告
- Google Nexus7 完全拆解
- 实时融合计费系统的设计与实现
- 金星JXD3000拆解
- 基于超声导波的结构健康状态无损检测及在线监测
- 蒲地蓝消炎片等转换为非处方药,涉及4家企业
- 解禁后就套现?苏泊尔股权激励引广泛讨论
- 比特富富将通过与SPAC合并上市,估值为15亿美元
- 国际清算银行创新中心将于2022年开发DeFi产品
- 美国运通CEO:可能考虑让积分兑换成加密货币
- YouTube将为视频创作者探索NFT功能
- 一车多用买它没毛病!传祺M6 PRO“大有可为”
- 2021年杭州亚运会概念股票龙头股有哪些?
- LVDT位移传感器的构成原理及特点
- RGB传感器的典型应用
- 隔膜计量泵工作原理
- 东芝M800内部拆解
- 单片机最小系统介绍
- 实达黑轴方脸机械键盘拆解测试
- 宏英2022年年会庆典-- 文章
- 匿名巨鲸在市场下跌期间购入488枚BTC后,持币量超越MicroStrategy
- 国内市场需求持续回暖 支持出口转内销需注重长短相济
- 佳兆业否认深圳国资接盘文体业务 称目前未与任何单位签订文件
- 成都警方通报“360员工被打伤”:伤者目前伤情平稳
- 格力百亿分红到底要给谁?高瓴入股三年仍浮亏18亿
- “长租公寓第一股”破产:拟从美国退市,上市3年市值蒸发97%
- 失去独家版权的腾讯音乐:股价暴跌8成,单季营收或首次下降
- 盛新锂能:2021年净利同比预增2954%-3286%
- 未来三年格力每年分红两次,董明珠:分红比股价重要