能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人

添加书签

专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!

东京大学的研究人员将GPT-4模型,集成在实体机器人Alter3中,可将文本、语言直接转化成机器人动作,例如,做一个自拍动作;装一个“鬼样”;做一个摇滚音乐动作等,就连微笑、眨眼这样的面部表情动作也没问题

在GPT-4的帮助下,Alter3建立了语言反馈系统,可通过语言指令优化机器人的运动,而无需修改任何代码,在传统机器人领域是很难做不到。

Alter3接到指令后,做了一个摇滚动作

也就是说,Alter3突破了传统的硬件编码限制,可以实现知识存储、动作优化和0样本学习等。在不需要为机器人的每个身体部位进行编程的情况下,可自动生成新的动作序列,完成自我迭代。

简单来说,可以把GPT-4看成是Alter3的“大脑”。大语言模型的海量知识的能力可以使Alter3,完成很多之前需要特定代码才能完成的动作。怎么感觉有点像施瓦辛格的“终结者”呢?

论文地址:https://arxiv.org/abs/2312.06571

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图

Alter3在装一个“鬼样”

Alter3简单介绍

Alter3是Alter系列的第3代实体机器人,整体结构采用前后分离式设计。主控制部分包含43个微调关节和马达,可实现细腻流畅的各部位动作控制。

Alter3采用了空气驱动技术来控制每个关节来执行指定运动,刷新率为100—150毫秒

相比电动马达,空气驱动能保证动作流畅平稳,响应更快速。同时也提高了可靠性和维修保养便利性。例如,当马达出问题时,只需更换单独部件而不影响整体性能。

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图1

表情部分对应人脸部位,包括眼睛、眉毛、嘴巴等,也由马达驱动实现丰富的面部表情变化。面部组件可以单独拆装,实现灵活配置。

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图2

Alter3视觉系统采用4个高清摄像头,分别安装在头部两侧和眼部内部。头部摄像头主要用于人体姿态跟踪和面部识别分析等任务。

Alter3在自拍

眼部内置摄像头可以模拟眼神等动作,为Alter3提供了与人类视觉系统等效的感知能力。

GPT-4在Alter3的作用

Alter3通过与GPT-4语言模型的结合,能够根据给定的文本描述自主生成动作,同时GPT-4承担了动作描述生成和代码映射转换两大重要功能

在第一阶段, GPT-4能够根据简短的语言提示,产生丰富生动的动作描述:

1)GPT-4会描述出各种面部表情和身体语言;2)各动作应独立成段,流畅连贯;3)根据人体关节可行性给出具体的执行细节。

GPT-4可以生成动作细节和丰富的情感表达,为下一步代码转化提供了重要基础。

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图3

在第二阶段,GPT-4会将提示文本语言转换为,控制Alter3机器人实际动作的Python代码

GPT-4采用类似写论文的结构性表达,首先导入Alter3模块,然后针对每个动作描述一步一步写出设置各关节值的Python代码。

例如,轴1值设为255,表示愤怒表情等。Alter3接收到转换后的代码后,可以执行具体的动作。

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图4

简单来说,Alter3借助了GPT-4强大的编程、转换、理解、存储等智能化能力,极大节省了开发时间和成本,同时将这些能力注入到Alter3中。

为了测试GPT-4在Alter3上发挥的能力,研究人员对9个不同机器人动作的视频进行了评估,每个视频由100多名参与者按5分制给出评分。

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图5

结果显示,GPT-4生成的动作视频评分,显著高于原生动作视频,这说明GPT-4生成的动作能真实还原人体动作细节。

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图6

此外,研究人员通过反馈强化对Alter3生成的动作进行微调,达到了更流畅的效果。

同时,研究人员采取了模拟社会大脑理论中的多个代理人模式,让Alter3与6种不同人格进行对话,以增强其与人交流能力。

本文素材来源Alter3论文,如有侵权请联系删除

END

能做鬼脸、摇滚、自拍,听懂你说的话!GPT-4驱动的实体机器人插图7

本篇文章来源于微信公众号: AIGC开放社区