人工智能研究初创公司OpenAI宣布创造了GPT-2,它可以编写令人印象深刻的文本段落。
但由于不担心人们会恶意使用更强大的工具(比如制造假新闻或垃圾邮件),团队并没有完全发布AI,只是分享了一个更小的模型。
但在周二,OpenAI发表了一篇博文,宣布决定完全发布该算法,因为“到目前为止,没有足够的滥用证据。”根据OpenAI的帖子,该公司确实看到了关于GPT-2用于垃圾邮件和网络钓鱼的潜在用途的“讨论”,但实际上从未发现有人滥用该算法的已发布版本。
问题可能是,尽管GPT-2是(如果不是)现有的最好的文本生成人工智能之一,但它仍然无法产生与人类书写的文本无法区分的内容。而OpenAI警告说,这是一个我们必须提防的算法。
这家初创公司写道:“我们认为,如果合成文本生成器的输出变得更加可靠和连贯,它们被滥用的可能性就会更高。”