在线安全法案和人工智能峰会:对儿童数字生活的影响

一名幼儿使用带有在线安全图标的平板电脑。

在本博客中,我们回顾了与《在线安全法》和人工智能相关的最新发展,并展望了儿童数字安全的下一步发展。

在线安全的最新变化

正如一句老话所说,你等一辆公共汽车很长时间,然后两辆公共汽车同时出现。

我们这些从事网络安全工作的人在忙碌了两周之后肯定会有这样的感觉,其中有两个关键时刻发生了:

  • 《在线安全法案》获得御准并成为法律;
  • 英国在全球人工智能峰会上占据了中心舞台。

什么是《网络安全法》?

2017 年的“绿皮书”(关于新政府政策的一系列想法)后来在 2019 年变成了更具体的“白皮书”。这导致了新提案的完整草案, 在线安全法案,该法案于 2021 年制定。但这并不是其演变的结束,随着该法律草案在议会的审议过程中进行了许多更改和修订。

《在线安全法》是一项具有里程碑意义的立法,有可能改变儿童的在线体验。 通过该法案,平台将承担更大的责任来保护儿童的安全:

  • 通过识别和预测风险,并建立系统和流程来解决这些风险; 和/或
  • 防止儿童访问完全不适合他们的内容。

确定了哪些平台需要解决的具体危害包括饮食失调内容、自残和自杀内容、色情内容和欺凌内容。

在线安全法将如何影响家庭?

《网络安全法》不会消除互联网上的所有风险,也不是一项完美的立法。 例如,互联网事务希望看到对家长的更多支持。

尽管如此,它是六年来严格审查和前所未有的跨党派合作的结果。 父母第一次应该期待默认的适合年龄的服务和严格的年龄检查。 如果实施得当,它可能会产生巨大的变化。

随着该法律的实施,互联网事务将发挥什么作用?

互联网事务——以及更广泛的在线安全领域——仍然可以发挥作用。 接力棒现已移交给新的在线安全监管机构 Ofcom,他们需要做大量工作来充实新监管制度的细节。

例如,Ofcom 将首先研究平台应如何处理在线儿童性虐待材料 (CSAM)——我们在 最近对在线厌女症和性图像分享的研究。 我们期待继续与 Ofcom 密切合作,分享我们的研究见解,以捍卫儿童及其父母的声音。

政府如何应对人工智能

1 月 2 日至 XNUMX 日,英国主办了备受期待的全球人工智能峰会。 在过去的一年里,人工智能几乎每天都会成为头条新闻,无论是好是坏。 总理峰会的目的是让各国聚集在一起反思这些事态发展,并讨论生活许多领域的长期利益和风险——从健康到国防、商业到民主等等。

值得欢迎的是,世界各地的政策制定者和行业领导者正在提前思考人工智能可能带来的重大问题。 毕竟,过去二十年的经历向我们展示了如果对新技术的社会影响没有足够的反思会发生什么,许多儿童在网上遭受伤害。 然而,这次峰会只是旅程的开始,而不是结束。

随着有关人工智能的对话的展开,我们希望看到两件事:

  • 更加关注人工智能对儿童和家庭生活的影响,而不仅仅是企业、经济和整个国家。
  • 对短期机遇和问题的考虑和行动,而不仅仅是长远思考。

教育中的人工智能

人工智能已经开始重塑儿童学习的内容和方式。 例如,学校被承诺提供个性化的人工智能助手来帮助规划课程,许多教师和孩子们已经开始使用 ChatGPT 来支持学习。 诸如此类的发展引发了与公平、平等、课程等相关的非常现实和紧迫的问题。 此外,它引发了更多关于教育目的和存在主义的争论。 如何让孩子们为人工智能驱动的未来做好准备.

Internet Matters 如何解决人工智能安全问题?

学校、家长和孩子现在需要如何使用人工智能的答案。 因此,Internet Matters 正在进行原创研究,以更多地了解家庭对这项技术的看法和感受,特别是在儿童教育方面。 我们将在新的一年里公开分享我们的发现,并与包括教育部在内的关键决策者分享——所以请关注这个领域。

配套资源

Internet Matters 热衷于为那些做出影响儿童在线安全的重大决定的家庭提供支持。 但我们同样热衷于提供实用的建议,以便父母也能尽自己的一份力量来保护孩子。

探索以下资源,了解有关人工智能和确保儿童上网安全的更多信息。

这有用吗?
告诉我们如何改进它

最近的帖子