快之站技术分享 - 数码，科技，生活移动版

　和战略史蒂芬·埃洛普(Stephen Elop)表示，技术行业需要保护机器学习和人工智能(AI)应用程序，防止无意识的偏见和违反安全和信任的行为，导致破坏的道路铺平了意想不到的后果。

　　埃洛普在星期四在墨尔本举行的年度Telstra Vantage大会上发表讲话时说，关爱，创意和监督角色将是唯一一个能够在自动化和人工智能崛起中幸存的人物。

　　根据埃洛普(Elop)的说法，他在去年担任诺基亚首席执行官之前被加入了Telstra团队，电信公司创立了创新领导者的新角色，领导其CTO，首席科学家，软件集团和企业战略，而AI机器学习从数据输入到他们的系统中，这些数据受到无意识偏倚的人的污染。

　　“人造智能的核心是大数据，以及可以从高级数据分析中获得的见解，我们如何使用数据，以及我们选择培训我们的机器的数据可以对我们的分析产生深远的影响，”Elop说过。

　　因此，人类开发人员选择的数据不足 - 例如，最近的调查结果显示，女性不太可能向Google广告展示更高薪的工作，某些面部识别软件难以跟踪较暗的肤色，而警察正在建议在低社会经济社区寻找犯罪 - 已经看到通过人工智能继续发生歧视。

　　“即使我们依靠所谓的大数据和现代技术，歧视的社会历史可以在我们的数字平台上生存，作为系统学习的数据和所设计的算法的函数，”他解释。

　　Elop还指出一个AI机器人被互联网用户有意识地移动的情况：微软在Twitter上的Tay聊天机器人，从故意的推文中学到种族主义行为。

　　因此，AI和物联网(IoT)的兴起必须与他所谓的“Twitter巨魔”和无意识的开发商偏见相结合，如果社会的数字化将避免无意识的后果，不仅加强歧视，而且破坏Elop说，所有用户的隐私和信任。

　　“Telstra推出了可以说是国内最大的连续IoT网络，承诺从更好的能源管理到安全与安全，到现场的效率，矿山到自主驾驶，都已经结束了大数据，毫无疑问，物联网将对我们向客户提供的成果产生深远的影响。“他说。

　　“隐私违规可能很快成为所有这些基于云的数据的意想不到的后果。

　　他收集的大量数据用于机器学习和专为智能家居和智能城市设计的AI设备，有可能被坏角色滥用，特别是如果来自多个来源的数据相结合。

　　“大量数据的收集导致隐私领域的各种意想不到的后果，这些隐私风险与大数据相乘 - 这不仅仅是主要的数据本身，而是可以从组合中获取的新的推论来自不同来源的大数据，“他解释说。

　　“例如，从日益流行的警察牌照读者中收集数据，犯罪模式在城市 - 可以从中收集各种有趣的信息。”

　　他的一个例子是亚马逊的Alexa，它可以节省所有的人际交往，以便学习并成为其所有者智能和更有用的AI助手，但无意的后果可能是这些数据被滥用。

　　Elop说：“这个设备在云中记录和存储我曾经对我说过的所有内容，并用录音实际记录我的声音，录音开始前几秒，之后我甚至要求它开始听。

　　“这只是一个时间的问题，这些录音被用于一个无意的目的。”

　　埃洛普说，最重要的是，当开发商不能保护系统免遭违反信任的意外后果时。

　　Elop 指出最近的Equifax违约行为表示，违反这种高度个人信息和公司对事件的回应是对他隐私和信任的“根本违反”，事实并非如此。

　　他补充说，人们也开始怀疑他们可以相信什么信息，这是由于技术进步，社会信任的另一个迹象表明了这一点。

　　“你可以信任什么?你相信你在互联网上看到的内容吗?如果它符合你的观点，你是否相信你在互联网上阅读的内容?如果它被世界推特，你相信你在互联网上看到的内容领导者?如果设备有预编程的后门，您是否信任设备?您是否相信客厅中的相机可能是650Gbps拒绝服务攻击的一部分，或有人可能会秘密使用它监视你?“ 他问。

　　“当安全发生故障，或委托安全人员发挥作用时，或平均公民不能再从虚构中说出真相时，我们有信任的问题。

　　“未能确保我们的世界的意想不到的后果是对社会信任的破坏 - 信任是社会本身的基础。”

　　根据埃洛普，企业可以防止违反信任和歧视的意外后果的唯一方式是展示他提到的三大作用的主要特点：人生关怀，创造力和领导力。

　　最重要的是，开发和部署数据收集机器和服务的人员必须采用意向性。

　　“我们不能接受我们的努力给我们的客户和我们的底线带来的许多好处，而不会对所产生的全部后果负责。”他认为。

　　“无意识的偏见只能通过有意识的努力来克服 - 而且，正如我们在Telstra所学到的那样，隐私相关的风险不能用抽象的政策声明和白皮书或实验来完全解决，每个新的产品和服务使用您的数据必须仔细评估隐私和意外的后果。“

　　他认为科技产业必须为此而努力，以保护整个社会。

　　他说：“那些关心，创造和监督的人，就是我们需要填补的角色。”

　　“意图需要照顾;包容性需要创造力;我们需要引导社会消除意想不到的后果。”IT资讯网整理