几周前,OpenAI、GitHub 和微软联合发布了一款编程工具 Copilot,这款工具基于 GitHub 及其他网站的源代码,可根据上文提示为程序员自动编写下文代码!被称为是结对编程的虚拟版本。
结对编程是一种常见的敏捷软件开发技术 —— 即两个开发人员在同一个项目上并肩协作,轮流编写代码并检查合作伙伴的输出。
抛开可能对开发者造成的潜在威胁不谈,这款工具仅发布几天后便遭到了猛烈的抨击,原因是它在未经许可的情况下,使用了公共的 Github 存储库的开源代码。
当时,GitHub 的首席执行官 Nat Friedman 公布这则消息后,Hacker news 上已经有不少网友在讨论,Copilot 可能会存在潜在的法律风险。
比如,一位网友就指出了多个疑问:
- AI 生成的代码属于我?还是 GitHub?
- 生成的代码属于哪个许可证?
- 如果生成的代码侵权,谁来承担法律责任?
一位从事开源工作的开发者 Armin Ronacher 直接在 Twitter 上分享了一个示例,表明 Copilot 确实存在剽窃版权代码的可能。
下面也有一位网友评论说:“我们也发现 Copilot 直接复制了一段 GPL 代码,这说明它在商业使用上是有风险的。
其实,就算 Copilot 没有逐字复制代码,也会产生一个道德问题:GitHub 或者 OpenAI 等公司是否有权使用数千名开发者的开源代码对自己的系统进行训练,并将这些系统的使用权卖给开发者自己?
一位开发者兼游戏设计师 Evelyn Woods 对此评论说:“他们好像在把开源当成一个笑话!”
我们还能寄希望于 OpenAI 吗?OpenAI 现在真正的意图是什么?
Alberto 发出疑问:
难道他们已经与微软的利益捆绑在一起,以至于忘记了最初“造福人类”的宗旨?还是他们真的以为自己拥有最好的工具和人才可以独自开拓这条道路,这是否意味着 OpenAI 出卖了自己的灵魂?他们是按照自己的意愿来建设未来,还是考虑到了更多人?更重要的是,他们是否想从中获取巨额利润?
OpenAI 在迈向更复杂人工智能的道路上占据了主导地位,当然,也有许多其他有潜力的机构在做相关的工作,这些机构并没有与金钱产生直接的联系,因而也受到了外界广泛的关注。
就目前来看,大型科技公司的目标似乎是并不是建立一个满足科学好奇心的通用人工智能,也不是建立一个最安全、最负责、最道德的人工智能。他们的首要任务是赚钱!
当然,这本身并不违法,但在道德上需要警惕,因为他们可能会不惜一切手段去实现目标,而这个过程可能会对大多数人产生不利影响。
之前 OpenAI 联合创始人埃隆・马斯克(Elon Musk)就曾批评其称:OpenAI 应该更加开放!
OpenAI 已经不再“Open”在 Reddit 上,Alberto Romero 的文章也引起了网友的讨论。
网友纷纷称:OpenAI 早已应该更名为“ClosedAI”。
也许 OpenAI 公司仍在坚持他们最初的使命,但他们也应该意识到:不能为了达到目的而不择手段,因为不合理的手段可能会损害更远大的目标。
毫无疑问,科学家们都希望实现通用人工智能。科学的好奇心是没有限度的,但我们也应该对潜在的风险保持警惕,就像核聚变是了不起的发明,但核聚变炸弹不是。
换一个角度来讲,我们愿意为了实现通用人工智能而付出任何代价吗?至少从道德上,很多人是不愿意的。科学家们或许更应该注意到这一点。
我们正在快速地更新这些深刻改变人们生活的技术。但是,如果只关心自己的利益和目标,无论是 OpenAI 还是其他人,最后都应该对后果承担很大的责任。