AIGC那些值得关注的问题：伦理，版权，欺诈，违禁
用2分钟来了解一下那些AIGC导致的问题。 AIGC技术可以改善我们的日常生活，提高生产力，但也面临着诸多问题。 第一，AIGC导致的伦理问题
OpenAI的联合发起人埃隆·马斯克曾表示：“如果不加以控制，AI或许很有可能会摧毁整个人类。” 事实上，我们也的确看到一些人工智能表现出了这种危险性。 以ChatGPT为例，其曾在一位工程师的诱导下，写出了步骤详细的毁灭人类计划书，详细到入侵各国计算机系统、控制武器、破坏通讯和交通系统等等。 第二，AIGC导致的版权问题
AIGC在模型的学习阶段，无法避免使用大量的数据集执行训练，但目前行业对于训练后生成物的版权归属问题尚无定论。 对此，行业中主要有两种看法。一类观点认为内容由素材库训练生成，本身来自素材库，需要对相关的素材作者提供版权付费。 另一类观点认为AIGC产生内容的过程是一个完全随机且创新的过程，不存在版权问题，版权属于AIGC的用户或者平台。 以绘画领域为例，不少艺术家在一些AI绘画工具使用的数据集里发现了自己的作品。这些艺术家的原创作品被AI作为素材内容进行学习，AI在学习完成后就可以快速生成风格非常类似的作品。 然而，虽然这些艺术家主张AIGC平台侵害了自己的权益，但是现在仍没有完善的法律规定此类侵权行为。 第三，AIGC导致的欺诈问题
随着AIGC技术的不断成熟，人工智能已经能够通过分析，事先收集的大量音视频训练数据，制造出以假乱真的音视频。 这项突破性的技术不仅可以用于篡改视频，甚至可以用于制造从未存在过的视频内容。 与此同时，这项技术的使用门槛也在不断降低，比如现在大家常用的社交媒体都具有一键轻松“换脸”“变声”等功能。 由于契合人们“眼见为实”的认知共性，这项技术滥用后很可能使造假内容以高度可信的方式通过互联网即时触达公众，削弱公众对于虚假信息的判断力，使公众难以甄别真实和虚假信息。 第四，AIGC导致的违禁问题
AI生成的内容完全取决于使用者的引导，在安全措施并不完善的前提下，AI针对恶意的诱导行为无法独立思考和判断，它只能根据训练材料中学到的信息进行输出。 基于AIGC技术的这个特点，经常会有使用者故意引导AI输出一些违禁内容，例如暴力、极端仇恨言论、色情图片等。 一些不法分子可能利用开源的AIGC项目，学习名人照片用于生成虚假名人合影照片，甚至制作出针对该知名人士的暴力及色情作品，制造出造谣、花边新闻、政治丑闻等。 针对以上问题，急需制定法律法规来进行监管。 OpenAI曾针对当前人工智能产业提出过“守门人”概念，OpenAI指出必须存在一个守门人来保护社会免受人工智能的潜在不良影响，以防止人工智能被滥用。
以上是伽利略的第26篇笔记。与君共勉。
