爆火后引发担忧与质疑？OpenAI推出ChatGPT“克星”

2023.02.01 09:40:09来源: TechWeb.com.cn 作者:小狐狸

【TechWeb】2月1日消息，据国外媒体报道，当地时间周二，美国人工智能研究公司OpenAI宣布推出一款新的“AI分类器”工具，该工具可用于检测文本是出自人类之手还是由人工智能（AI）生成。

OpenAI宣布这一消息之际，对AI写作和AI生成文本的审查正在加剧，企业也在整合ChatGPT输出。

据悉，ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话，甚至代码，并回答各类疑问。

ChatGPT背后的开发商OpenAI也大有来头，它是由特斯拉CEO埃隆•马斯克（Elon Musk）、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨于2015年联合创立，主攻AI技术应用领域，并通过向开发人员收取技术许可费用来赚取利润，以AI聊天机器人ChatGPT和图像生成器Dall-E 2等人工智能程序而闻名。

2018年，马斯克宣布退出OpenAI。2019年，OpenAI宣布重组为一家“有限营利（capped-profit）企业”。

ChatGPT实火

ChatGPT一经发布就在互联网上掀起了一场风暴，并受到包括作家、程序员、营销人员在内的使用者称赞欢迎。

在发布不到一周的时间里，ChatGPT就聚集了超过100万用户。推出还不到2个月，它的日活量就突破千万，并且还在飞速飙升，以至于服务器崩溃成为常态。

OneFlow深度学习框架创始人袁进辉表示，ChatGPT的技术进步可比作首次“登月”，这样的进步令行业感到震惊。

ChatGPT的优异表现，也使它得到了微软、美版今日头条”BuzzFeed、亚马逊等公司的青睐。

2019年，微软曾向ChatGPT的母公司OpenAI投资10亿美元。2023年1月23日，微软又宣布与OpenAI扩大合作伙伴关系，它将向OpenAI进行一项为期多年、价值数十亿美元的投资，以加速其在AI领域的技术突破。

虽然微软并未在声明中给出具体的投资金额，但知情人士此前透露，数额将高达100亿美元。

另外，微软CEO 纳德拉此前曾透露，计划将ChatGPT、DALL-E等AI工具整合到微软旗下产品中。

2023年1月份，外媒报道称，微软正计划将ChatGPT的部分AI技术整合到其必应搜索引擎中，这可能会使其成为谷歌更强大的竞争对手。

同月，一位了解微软计划的知情人士透露，微软希望将OpenAI的AI技术整合到Word、Outlook、Powerpoint等应用中，为Office用户提供一种为项目编写文本的新方式。这意味着Office工具可以根据提示自动生成文本来填充文档，还可以根据用户想要与收件人沟通的内容为用户自动编写电子邮件。

近日，BuzzFeed宣布，它将使用ChatGPT帮助创作内容。这一消息使得BuzzFeed股价瞬间暴涨翻倍，引发全球关注。

此外，亚马逊也宣布，要在多个工作职能中启用ChatGPT AI聊天机器人工具。

ChatGPT的优异表现也让文字工作者、程序员等从业者都感受到了威胁，它甚至可能取代谷歌搜索引擎。此外，也有不少人担忧它是否在很多方面可以取代人类。

谷歌CEO桑达尔·皮查伊（Sundar Pichai）曾在公司内部发布“红色警报” （Code Red），并称围绕ChatGPT全面调整2023年谷歌在AI领域的工作。

与此同时，ChatGPT的爆火也引发了同行的跟风追捧。

2023年1月30日，据外媒报道，百度正计划在今年3月推出与ChatGPT类似的AI聊天机器人服务，该工具将允许用户获得对话式的搜索结果，但名称尚未确定，最初版本将嵌入其搜索服务中。

实际上，早在OpenAI推出ChatGPT三个月前，Meta就曾发布过一款类似的聊天机器人。但Meta首席AI科学家雅恩·勒昆（Yann LeCun）表示，与ChatGPT立即爆火、上线五天里就有100多万用户不同，Meta的Blenderbot让人觉得很无聊。

ChatGPT“克星”

尽管ChatGPT在网络上受到热捧，并获得数百万用户点赞，但在该工具的使用过程中也产生了一些问题，比如，引发了版权和抄袭方面的质疑。因此，OpenAI发布了一款新的“AI分类器”工具。

外媒报道称，该工具是免费的，它本身是基于AI模型打造的，它不仅可以检测OpenAI的神经网络生成的文本，还可以检测其他公司的竞争软件生成的文本。

据OpenAI介绍，这一工具的背后整合了多家供应商的技术，能够用于解决各种现实问题。该公司希望新工具可以用来防止AI文本生成工具被滥用，比如，自动虚假信息宣传，使用AI工具进行学术欺诈，以及将AI聊天机器人定位为人类。

尽管轻松识别AI生成的文本对编辑和教育工作者来说是件好事，但OpenAI警告称，其“分类器并不完全可靠”。根据他们的测试，这款分类器只能将约26%的AI生成文本识别为非人类所写，而将9%人类书写的文本错误地识别为AI生成。