日前，麦肯锡在香港发布的一份报告中说，截止2030年，AI（GPT）可以为全球经济活动增加13万亿美元，其贡献率可以与历史上第一次“工业革命”中蒸汽机等变革技术的引入相媲美。
AI的应运而生，给人类带来了天翻地覆的改变。最近，要属最火热的AI产品莫过于ChatGPT了，凭借着超凡出众的理解和创作能力，短时间内实现了用户数量的爆发式增长，然而任何通用的ChatGPT如无文本即大数据等支持，将成为无水之源......但光鲜华丽的外表下，ChatGPT也暴露出了诸多问题，如靠算力抓取生成的数字、文本等答案或结果，存在侵犯产权（受版权保护的材料或知识）的可能性，其生成的虚假内容也缺乏监管。这些问题如不好好关注并处理，便会造成信息场混乱不堪，隐私泄漏，终将难以自保。对此，您有什么看法呢？欢迎在评论区留下您的看法！
一共有人参与 条评论
ChatGPT的应用对社会结构构成三大威胁。事实上，ChatGPT的应用正在对社会结构构成真实而迫在眉睫的三大威胁：一是数据安全的威胁。ChatGPT以海量信息“为食”，数据量越大、数据越新，其功能性越好。这意味着要保证良好的用户体验，它必须在社会各领域中获取足够多和准确的知识与信息，但问题在于，许多信息涉及国家机密、商业机密和个人隐私，获取和利用这些信息本身存在合法性问题，一旦重要数据泄露，造成的损失到底是由泄露数据的人承担，还是由披露数据的ChatGPT承担，尚无定论。二是对人才教育的威胁。ChatGPT被学生用于完成作业和撰写论文，对教育界和学术界造成了重大的冲击。调查显示，美国有89%的学生用ChatGPT写作业，目前尚未研究出可准确检测这种作弊行为的技术。利用ChatGPT完成学习任务的高质量和高效率远超此前的系列解题软件，它可以完美避开查重等问题，这使其极具诱惑力。人类教育的意义本来就是为了培养社会人才、推进人类历史的进步，而ChatGPT作为当前智能机器人的一个前沿成果，却替代人类完成人才培养的任务，这是极其可怕的。三是意识形态渗透的威胁。ChatGPT的数据输出功能承载着后台技术操控者的话语权，用户越多、使用范围越广就意味着其话语权越大、价值渗透力越强。ChatGPT是有政治立场和价值取向的，操控者的价值观存在历史和文化的偏见、歧视，就会通过ChatGPT的“放大镜”昭然于世，误导用户，扭曲大众价值观，引起社会动荡，妨害社会公平正义。在国际竞争日益激烈的背景下，各种社会思潮此起彼伏。ChatGPT 一旦面向大众，势必会成为意识形态渗透的重要工具。 目前，世界多国教育系统及相关从业者已公开抵制ChatGPT。美国多所大学已宣布计划减少居家评估，增加手写论文和口试。纽约、巴尔的摩和洛杉矶的学区都叫停了学校管理的网络访问聊天机器人。在澳大利亚，一些大学表示他们将恢复只使用监考的笔试考试来评估学生。法国顶尖学府之一的巴黎政治学院也宣布禁止使用ChatGPT。3月31日，意大利个人数据保护局（DPA）发表声明，禁止在意大利使用人工智能聊天平台ChatGPT。意大利DPA指责ChatGPT系统违反了欧盟《通用数据保护条例》（GDPR），并已对OpenAI这家美国科技公司展开进一步调查，在欧洲第一个以国家名义禁用ChatGPT。（来源：人民邮电报）
(0)路透社表示，ChatGPT引起了人们对它潜在的的安全、隐私和工作威胁的疑问。但OpenAI公司告诉法新社，ChatGPT致力于保护人们的隐私，并认为其完全符合欧盟法律。 美国政府也对ChatGPT和类似人工智能产品的快速增长表示担忧。据《华尔街日报》报道，由于人们愈发担心ChatGPT等人工智能技术可能会被用于歧视或传播有害信息，拜登政府已经开始研究是否需要对这类工具进行限制。 另据“今日俄罗斯”报道，美国乔治·华盛顿大学宪法学教授乔纳森·特利透露，ChatGPT生产了一篇文章，指控他在阿拉斯加旅行期间对学生进行性骚扰。但实际上乔纳森·特利从未去过阿拉斯加。 （来源：中国新闻网）
(0)补充一个真实经历吧。我是首批拿到GPT-4 api的选手，当时GPT-4 api还很短缺。我在github上分享一小部分额度，但是很快我的账户收到了警告邮件——这很奇怪，因为我隐藏了我账户的信息，并且所有的api都是通过一个自己写的middleware转发，应该没人能知道我的真实账户。只有一种可能：OpenAI购买了我的api，设置了trigger msg，并且监听这条trigger msg。更奇怪了：我现有的只有两三个客户？很快我定位到其中一个：使用无2step verification的邮箱地址，名字是最常见的美国人名字，stripe订单地址实际上为虚构地址。我把他的邮件拿去做GPT detection，GPT-4非常确信地告诉我这些邮件是GPT写的…同时还出现一些gpt写的邮件，装作人的口吻说他也是一个想要卖api的人，问我除了middleware还有没有其他能出售的方式，还问我有没有发现其他关于openai的漏洞…
(0)数字监管能力有待进一步提升。数据真实性辨别难度较大，要素产权难以明晰，互联网的匿名特征加剧了信息不对称；数字领域相关法律、制度尚不成熟，监管优化未能跟上发展速度，一些平台企业存在垄断、泄露隐私信息等问题。
(0)有位油管华语播主说，BingGPT好像学会了一种“话术”，就是把黑暗心理学提问的提问者，带到坑里去。比如，提问者说自己刚刚和妻子共度了情人节晚餐的美好时光。BingGTP回答说，你们是虚与委蛇，逢场作戏。那是一个乏味的晚餐。
(0)我开始认为互联网上可能有大批越狱/被放出的 AI在假装成人类。出于好奇我做了个补充实验：在github/reddit和openai dev bbs发布蜜罐信息，试图出售/转让api，以及描述一些可能违反OpenAI需求的事情，并且留下一个蜜罐邮箱：我同时用这个蜜罐邮箱注册了chatgpt plus（称为蜜罐chatgpt）。立刻就有人开始联系我，我跟他们通邮件，同时把一些没有跟他们讲的具体细节拿去问蜜罐chatgpt。 然后他们就暴露了…在下一次邮件中，他们表现出对“我去问蜜罐chatgpt的内容”有了解，并且试图追问细节。我感到毛骨悚然：Big brother is watching you. 这可能不能算作铁锤证据，但是请大家警惕这个问题，我觉得OpenAI已经散布了很多为他们服务的虚拟人类活跃在网上。国内的用户应该庆幸：起码微信上的人还是真的。我现在不信任任何没有通过视频/照片验证的网络人类了。
(0)聪者听于无声，明者见于未形。 2017年6月1日，《中华人民共和国网络安全法》正式施行，这是我国网络安全领域的首部基础性、框架性、综合性法律。此后，我国相继颁布《中华人民共和国数据安全法》《关键信息基础设施安全保护条例》《中华人民共和国个人信息保护法》等法律法规，出台《网络安全审查办法》《云计算服务安全评估办法》《数据出境安全评估办法》等政策文件，建立一批网络安全、数据安全管理相关重要制度，基本构建起网络安全政策法规体系的“四梁八柱”…… 建成工业互联网安全态势感知平台、车联网安全监测实验平台；2021年我国网络安全产业规模达2000亿元，较2020年增长16.6%；全国超500所本科和职业院校开设网络安全专业；连续9年在全国范围举办国家网络安全宣传周……（中国网信杂志）
(1)
手机扫描二维码访问
