ChatGPT,2023人工智能开始露出獠牙

发布一下 0 0
ChatGPT,2023人工智能开始露出獠牙

人工智能视角

OpenAI的新聊天机器人因其令人印象深刻的回答而获得了关注,但其中有多少是可信的?多少是对人类思维判断是危险的。让我们来探索ChatGPT的黑暗面。

ChatGPT是一个强大的人工智能聊天机器人,它能迅速给人留下深刻印象,然而很多人都指出它有一些严重的隐患。问它任何问题,你都会得到一个听起来像是人类写的答案,它的知识和写作技巧都是从互联网上的大量信息中学习的。然而,就像互联网一样,真理和事实并不总是给定的,ChatGPT在这方面犯了错误。随着ChatGPT将改变我们的未来,这里有一些最大的担忧。

ChatGPT,2023人工智能开始露出獠牙

ChatGPT是一个大型语言学习模型,旨在模仿人类对话。它能记住你过去对它说过的话,并能在错误时自我纠正。它以类似人类的方式写作,并且拥有丰富的知识,因为它是在互联网上的各种文本上训练出来的,如维基百科、博客文章、书籍和学术文章。学习如何使用ChatGPT很容易,但更具挑战性的是找出它最大的问题是什么。

  1. 虚假的伪装
ChatGPT,2023人工智能开始露出獠牙

虚假的伪装

它在数学方面经常失败,似乎不能回答简单的逻辑问题,甚至会去论证完全不正确的事实。正如社交媒体用户可以证明的那样,ChatGPT可能不止一次出错。ChatGPT有时会写出听起来合理但不正确或无意义的答案。这种事实和虚构的 "幻觉",正如一些科学家所称,在涉及医疗建议这样的事情时尤其危险

与Siri或Alexa等其他人工智能助手不同,Chat GPT并不使用互联网来定位答案。相反,它一个字一个字地构建句子,根据其训练选择最可能的 "标记",应该在接下来。换句话说,ChatGPT是通过一系列的猜测得出答案的,这也是它能把错误的答案当作完全正确的答案来论证的部分原因。虽然它擅长解释复杂的概念,使其成为一个强大的学习工具,但重要的是不要相信它所说的一切。ChatGPT并不总是正确的--至少,现在还不是。

2. 人性的偏见

ChatGPT是在全世界人类的集体协作中训练出来的,无论过去还是现在。这意味着存在于数据中的相同偏见也会出现在模型中。事实上,用户已经展示了ChatGPT如何产生一些可怕的答案,例如,一些歧视妇女的答案。但这只是冰山一角;它可以产生对一系列少数民族群体极为有害的答案。由于有可能对人造成伤害,你可以说,在研究和解决这些问题之前,ChatGPT不应该向公众发布。

ChatGPT,2023人工智能开始露出獠牙

人性的偏见

3. 对学生英语学习的挑战

你可以要求ChatGPT校对你的写作,或指出如何改进一个段落。另外,你也可以把自己完全排除在外,让ChatGPT为你写点东西。老师们已经试验过把英语作业交给ChatGPT,得到的答案甚至比他们的许多学生能做的还要好。从写求职信到描述著名文学作品中的主要主题,ChatGPT都能毫不犹豫地完成。这就引出了一个问题:如果ChatGPT可以为我们写作,那么学生在未来是否需要学习写作?这似乎是一个存在的问题,但当学生开始使用ChatGPT帮助写作文时,学校将不得不迅速想出一个答案。近年来,人工智能的快速部署将震惊许多行业,而教育只是其中之一。

ChatGPT,2023人工智能开始露出獠牙

4. 它可以造成现实世界的伤害

早些时候,我们提到了ChatGPT的错误信息如何造成现实世界的伤害,最明显的例子是错误的医疗建议。也有其他的担忧。虚假的社交媒体账户在互联网上构成了一个巨大的问题,随着人工智能聊天机器人的引入,互联网诈骗将变得更容易实施。虚假信息的传播是另一个令人担忧的问题,尤其是当ChatGPT让错误的答案听起来也令人信服地正确时。

ChatGPT产生答案的速度并不总是正确的,这已经给Stack Exchange造成了问题,该网站的用户可以发布问题并获得答案。在ChatGPT发布后不久,由于大量的答案是错误的,ChatGPT的答案被禁止在该网站上出现。如果没有足够的人类志愿者来整理积压的问题,就不可能保持高水平的高质量答案,从而对网站造成损害。

ChatGPT,2023人工智能开始露出獠牙

5. OpenAI拥有所有的控制权

巨大的权力伴随着巨大的责任,而OpenAI拥有很大的权力。它是第一批真正撼动世界的人工智能公司之一,它的人工智能模型不是一个,而是多个,包括Dall-E 2、GPT-3,以及现在的ChatGPT。

OpenAI选择用什么数据来训练ChatGPT,以及如何处理负面后果。无论我们是否同意这些方法,它都会根据自己的目标继续开发这项技术。虽然OpenAI认为安全是一个高度优先事项,但关于模型是如何创建的,我们有很多不知道。无论你认为代码应该开放源代码,还是同意它应该将部分代码保密,我们都没有什么办法。

到最后,我们能做的就是相信OpenAI会负责任地研究、开发和使用ChatGPT。另外,我们可以倡导更多的人对人工智能的发展方向有发言权,与使用它的人分享人工智能的力量。

ChatGPT,2023人工智能开始露出獠牙

6. 应对人工智能的最大问题

ChatGPT是OpenAI的最新开发成果,有很多值得兴奋的地方。但除了它的直接用途之外,还有一些值得了解的严重问题。

ChatGPT,2023人工智能开始露出獠牙

OpenAI承认,ChatGPT可能会产生有害和有偏见的答案,更不用说它将事实与虚构相混合的能力。对于这样一项新技术,我们很难预测还会出现什么问题。所以在那之前,请享受探索ChatGPT的乐趣,并小心不要相信它所说的一切

版权声明:内容来源于互联网和用户投稿 如有侵权请联系删除

本文地址:http://0561fc.cn/198375.html