硅谷面向开发者及科研者的NLP&ChatGPT&LLMs技术、源码、案例实战219课

ChatGPT技术应用中面临的问题

ChatGPT是人工智能技术领域的一项新的突破，作为新的技术在市场监管领域获得应用，还面临数据安全、技术成熟度和资源投入等一些问题。

（一）数据安全问题。

运用ChatGPT技术的应用需要大量数据进行训练，具有收集、储存和使用海量数据的功能。用户在输入端口提出问题后，用户与其对话的数据将会被存储在应用程序运行的云计算平台。人机交互问答中，提问者与ChatGPT分享的数据被用于未来模型的迭代训练，这些数据中可能涉及隐私信息、敏感数据，存在数据泄露的安全风险。ChatGPT就运行在OpenAI公司的云平台，如果直接使用OpenAI的ChatGPT，存在数据跨境流动的安全风险。因此，不建议在市场监管应用中直接使用或者调用ChatGPT，在保证数据安全的前提下，可以应用ChatGPT相关的技术。

（二）人机协调问题。

在ChatGPT出现之前，人工智能应用以专用型为主，ChatGPT的出现是通用型人工智能应用的重要里程碑。但是，ChatGPT不能完全代替人，不能过于迷信运用ChatGPT技术由机器给出的结果，ChatGPT也会出现误判，影响市场监管工作的准确性和效果。市场监管应用，必须充分考虑市场监管工作人员的基于自身知识、经验的判断，妥善处理人机协调问题。