倪光南 院士
探讨RAG技术、AI代理及AI伦理挑战
6月10日举行的智源大会AI安全与对齐分论坛上,OpenAI联合创始人兼CEO萨姆·阿尔特曼(Sam Altman)发表致辞并与智源研究院理事长张宏江进行问答对话。阿尔特曼说,推进通用人工智能(AGI)安全是OpenAI最重要的领域之一,OpenAI不会很快有GPT-5模型,随着时间推移会继续开源更多的模型,但没有一个具体的模型或时间表。
从GPT-4完成预训练到部署它,OpenAI花了8个月的时间来做这件事。“我们认为我们在这方面走在了正确的轨道上。GPT-4比我们以前的任何模型都更符合目标。”阿尔特曼说,OpenAI相信先进的机器学习技术可以进一步提高产生解释的能力,最终目标是训练AI系统来帮助目标研究本身。
“在未来十年内,我们可能会拥有非常强大的AI系统。”他认为,我们需要建立国际规范和标准,并通过包容的过程,在所有国家为AGI的使用制定平等统一的保护措施;还需要国际合作来建立对日益强大的AI系统安全开发的全球信任,特别是应该促进增加透明度和知识共享的机制。
关注公众号
立刻获取最新消息及人工咨询