前OpenAI员工发公开信吁AI公司允许员工提出风险担忧
2024-06-05 14:02
摘要:近日,一群前OpenAI和Google DeepMind员工在一封公开信中呼吁人工智能公司允许员工提出对AI风险的担忧,而不必担心遭到报复。他们认为AI可能加剧不平等、操纵信息,甚至导致人类灭绝。公开信要求AI公司遵守四项原则..
近日,一群前OpenAI和Google DeepMind员工在一封公开信中呼吁人工智能公司允许员工提出对AI风险的担忧,而不必担心遭到报复。他们认为AI可能加剧不平等、操纵信息,甚至导致人类灭绝。公开信要求AI公司遵守四项原则,包括不禁止批评、提供匿名渠道、支持批评文化以及不报复分享风险信息的员工。
此举可能源于OpenAI最近在员工离职协议问题上的态度转变。该公司承诺删除不贬损条款和股权追回条款,此前因这些条款受到外界批评。
公开信得到Yoshua Bengio、Geoffrey Hinton等AI界知名人士的支持。不过,对AI可能带来的具体危害仍存在分歧。有专家质疑AI对人类生存构成风险的说法,认为这转移了人们对当前AI危害的注意力。
前谷歌AI伦理研究员Margaret Mitchell博士指出,法律目前以牺牲工人为代价来支持大公司,使得举报人面临职业和心理健康风险。她呼吁对法律进行重大修改,以更好地保护揭露问题的员工。
更新于:5个月前