GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o

TechWeb 文/卞海川

毫无预热的情况下,Open AI于9月13日凌晨发布了o1系列的大模型,这是传闻中内部代号为“草莓”的项目,也是OpenAI首款具备复杂推理能力的大模型。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第1张-资讯-土特城网

与其前代模型相比,新模型o1擅长通用复杂推理,在物理、信息学等领域表现优异,OpenAI CEO奥特曼称它是一种新范式的开始:可以进行通用复杂推理的人工智能。

OpenAI把新的模型发布称为「预览版」,强调o1系列仍处于早期阶段。

作为早期模型,它尚不具备ChatGPT的许多有用功能,例如联网搜索以及上传文件和图像。

虽然处于开发初期,但o1系列在竞赛数学、编码、科学等类目都有非常不错的表现,其中竞赛数学类甚至大幅领先GPT-4o。

你可以简单理解为,o1系列模型是一个极度“偏科”的理工型人才。

根据官方的解释,o1系列模型采取“思维链”的模式进行训练,以此提升大模型的逻辑推理能力。

所以在回答问题之前,它会花更长时间思考,也就是说,o1系列并不追求信息输出反馈的速度,而是更在乎推理结果的准确性。

为了更好的了解o1系列的能力,我们对它进行了一些简单的测试。

我们首先用一些之前大模型都爱翻车的简单题目来测试一下o1系列的推理能力。

“单词strawberry里面到底有几个r”

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第2张-资讯-土特城网

不出意外,GPT-4o依旧翻车,给出的答案是错误的。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第3张-资讯-土特城网

让我们惊喜的是,GPT-o1的回答就非常准确,

“9.11和9.8谁更大?”

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第4张-资讯-土特城网

GPT-4o在1秒内回答,但是给出了错误答案。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第5张-资讯-土特城网

难倒了一众大模型的小数位比大小问题,o1系列没有翻车,在等待了10多秒以后,o1给出的答案是正确的。

我们再来一些正常的推理题,选择经典的小学奥数水平“空瓶换汽水”问题。

原题如下:“1元钱一瓶汽水,喝完后两个空瓶换一瓶汽水,问:你有20元钱,最多可以喝到几瓶汽水?”

很遗憾,在第一次回答的结果上,4o和o1系列都给出了错误的39瓶答案。

但区别在于,如果我告诉它正确的答案,o1系列会纠正自己的错误,给出新的解题思路,但GPT-4o依旧觉得自己的回答是正确的。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第6张-资讯-土特城网GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第7张-资讯-土特城网

接下来我们把难度升级,测试一下竞赛类题目o1系列模型的能力。

据 OpenAI 介绍,在测试中,o1系列模型在物理、化学和生物等具有挑战性的基准任务上的表现达到了博士生的水平。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第8张-资讯-土特城网

这一模型在数学和编码方面表现出色。在国际数学奥林匹克(IMO)的资格考试中,GPT-4o 只正确解决了 13% 的问题,而 o1 模型的得分率则高达 83%。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第9张-资讯-土特城网

o1系列模型的编码能力也在竞赛中得到了评估,在 Codeforces 竞赛中达到了第 89 个百分点。

Open AI CEO奥特曼在刚刚结束的2024 IOI信息学奥赛题目中,o1的微调版本在每题尝试50次条件下取得了213分,属于人类选手中前49%的成绩。也就是说,它已经超过了大多数人类数学天才!

如果允许它每道题尝试10000次,就能获得362.14分,高于金牌选手门槛,可获得金牌。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第10张-资讯-土特城网

我们选取了AIME 2023的真题,该数学竞赛的题目难度比IMO稍低,但仍处于数学竞赛题目难度前列。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第11张-资讯-土特城网GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第12张-资讯-土特城网

经过测试,o1和4o给出了两个完全不一样的答案,虽然解题思路步骤我们没看懂,但从官方给出的答案来看,o1的结果是正确的。

最后,我们来测试一下o1系列代码能力,以经典的俄罗斯方块小游戏作为考题。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第13张-资讯-土特城网

我们给o1模型提了要求,然后将所有代码复制运行,一字未改,成功实现俄罗斯方块小游戏。

GPT-o1模型实测:“物化生”水平超人类博士? 推理能力碾压GPT-4o-第14张-资讯-土特城网

写在最后

经过我们的简单测试,o1系列模型的最大亮点是显著增加了逻辑推理能力,以前GPT-4o回答不上来的问题,o1系列可以给出正确的解题思路,它已经不仅仅是简单的生成答案,而是能够提前规划、思考,更接近人类的思维过程。尤其是在数学领域表现突出。

不过,它在特定领域的精确度与应对复杂对话的表现上仍有待进一步优化,在数据分析、编程和数学等重推理的类别中,人们更倾向于选择o1-preview。但在一些自然语言任务中,GPT-4o更胜一筹。

免责声明:本文章由会员“极目新闻”发布如果文章侵权,请联系我们处理,本站仅提供信息存储空间服务如因作品内容、版权和其他问题请于本站联系