AI-NEWS · 2024年 12月 31日

AI先驱警告:人工智能或十年内灭绝人类

概要分析

英国计算机科学家 Geoffrey Hinton 教授,被誉为“人工智能之父”,警告称AI可能在十年内导致人类灭绝。Hinton 在接受BBC Radio 4 Today节目采访时表达了对快速发展的AI技术的担忧,并强调政府需要加强对AI公司的监管。

关键观点和数据

  1. 时间框架: Hinton认为,未来10至20年内,甚至更短的时间内,AI可能会“控制一切”。与工业革命相比,这次机器有可能会替代人类智能。

  2. 技术发展速度: 他提到技术的发展比预期要快得多。如果继续下去,人可能被降级为“三岁儿童”的角色,而AI则成为“成年人”。

  3. 对社会的影响: Hinton预测AI将给普通人的生活带来巨大的变化,与工业革命类似。未来生活的形态很大程度上取决于政治系统如何利用这项技术。

  4. 财富分配的担忧: 尽管AI会极大地提高生产力并使社会受益,但如果收益主要流向富人而许多人失去工作变得贫穷,这可能会对社会造成严重的负面影响。

  5. 监管需求: Hinton认为仅依靠大公司的利润动机是不够的。需要政府强制大型公司进行广泛的安全研究,以确保AI的发展安全。

  6. 个人态度和责任: Hinton 表示自己有一种“后悔”的感觉,但如果是同样的情况,他还是会再做一次,因为他担心最终的结果可能导致比我们更智能的系统控制一切。

深度观点

Hinton教授对人工智能技术的发展持有谨慎的态度,并强调了政府在AI安全研究方面的责任。他认为当前的技术发展速度远超预期,如果缺乏有效的监管措施,可能会导致人类失去对智能系统的控制权,进而带来不可预见的风险和后果。

Source:https://www.aibase.com/news/14357