游戏的神经计算机接口:今天所知

瓦尔(Valve)的共同创始人加贝·纽厄尔(Gabe Newell)相对最近,人类已经比看起来更接近“矩阵”。我和我的合著者决定找出是否是这种情况,以及为什么Valve,Facebook和Elon Musk试图将大脑连接到计算机。





错觉的控制


神经计算机接口(NCI)或脑计算机接口(BCI)是一种旨在直接在大脑和计算机之间交换信息的系统。约瑟夫·利克里德Joseph Liklider)于1960年在一篇题为人机共生” 的文章中对此概念进行了描述。现在,该出版物更有可能具有历史价值,但是自2000年代末以来,人们一直在积极尝试进行这种共生。

也许那时NeuroSky与Square Enix相比,表现出了更多的优势,后者在2008年东京游戏展上展示了概念验证游戏Judecca。在2009年,NeuroSky甚至推出了商用NKI棋盘游戏,您仍然可以购买,但是它们是阅读大脑活动还是利用控制错觉现象是一个悬而未决的问题。

其余公司的产品基本上没有超出会议范围,游戏行业的领导者要么保持沉默,要么说他们不参与NKI的发展。

图片
尽管存在矛盾,但NeuroSky的Mindflex和StarWars Force Trainer游戏仍然是最成功的BCI设备。


2012年,格拉茨格拉茨大学神经计算机接口实验室推出了《魔兽世界》 NCI。该系统可以运行,但是显然不能用键盘代替鼠标。


“学习”界面和玩家:为了将来自大脑的信号与某个团队联系起来,用户需要首先移动他的手,然后在游戏过程中考虑一下这个动作。

渐渐地,很明显革命不会发生。他们忘记了NQI,但直到著名的Valve创始人Gabe Newell 在2020年3月18日的一次采访中宣布该公司正在进行神经生物学研究之前,他补充说我们离Matrix更近了许多人认为。几乎同时,报告出来了据估计,到2027年,NKI市场将达到29.6亿美元。

加布没有说什么


一年前,Valve员工,实验心理学家Mike Ambinder博士在2019年游戏开发者大会上发表了有关NQI的开发和应用的演讲。与Gabe的采访相比,尽管他对公司的计划进行了更多介绍,但几乎没有人注意到他的讲话。

图片
Mike在OpenBCI EEG Headset中,这是一个致力于开发开源NKI解决方案的爱好者社区。

Valve尚未采用直接连接到大脑的“矩阵”路径,而是使用特殊的“头盔”进行脑电图(EEG)。这种方法具有缺点-即噪音和低带宽(例如,《魔兽世界》 NCI的作者估计数据传输速率为<100位/分钟)。

图片
获取有关大脑活动的信息的主要方法,包括使用周围神经和肌肉的信号捕获。

缺点部分是由于信号穿过皮肤和骨骼。通常将EEG与试图了解足球场上发生的事情,站在体育场墙外并倾听球迷的哭声进行比较。

跟随比赛“从看台”允许其他方法:

  • 当电极直接与大脑表面相邻时,脑电图,ECOG或颅内EEG(颅内脑电图-iEEG)是最“软”的手术方法。其结构不会发生深层干扰。
  • 皮层内记录(皮层内记录)和植入物-将电极引入树皮厚度的方法趋于运动。使电极更加靠近信号源,操作更加复杂。

但是到目前为止,EEG的非侵入性涵盖了所有缺点,Mike认为其功能尚未耗尽。它已经可以让您评估:

  • 玩家热衷于屏幕上的事件,或将因无聊而死;
  • 在困难的任务中或放松和自信时会紧张;
  • 能够集中和吸收新信息。尽管如此,游戏玩法仍需训练玩家-管理,游戏玩法细节等。东西
  • 运动信号-玩家对游戏中的某些刺激做出何种动作和反应的程度。

还有许多其他更细微的参数。积极开发机器学习算法逐渐使从脑电数据中提取更多信息成为可能。

不要急于扔掉键盘



最有可能的是,游戏行业中的NKI并非始于沉浸于虚拟现实中。

根据Mike的说法,现在NKI主要允许您从玩家那里获得新的反馈,从而可以改善游戏质量。迈克认为技术将经历三个发展阶段。

每个接口都是一个脑机接口。唯一的区别是中间硬件链接,通过该链接我们可以将意图转换为适合使用的东西。实验心理学家Valve的Mike Ambinder博士。

在短期内,NKI将在游戏开发中找到应用,并使测试过程更加高效。现在,确定测试人员情绪的常用方法是调查。同时,只有在已经忘记,平滑或重新考虑某些印象之后,才可以通过游戏级别来执行。读取对游戏内刺激的实时大脑反应更加客观,这将有助于提高设计水平,甚至落入计划好的情绪中。

图片
对眼睛运动,心跳,肌肉紧张甚至姿势的分析是一种评估球员状况而无需触摸大脑的方法。这可能与EEG一样重要。

逐渐地,NCI将变得更易于访问,并超越了工作室。在第二阶段,游戏本身将可以访问数据。根据Mike的说法,这将完全改变自适应游戏的概念。传统的难度级别将过时-游戏世界将适应特定的玩家,确定哪些敌人给他造成了更多问题,无论他是想在艰苦的一天后放松还是在预期艰难的战斗后感到无聊。

图片
用户是否准备好在游戏中分享自己的状态甚至想法,或者觉得它太个人化?

最终,游戏中的角色将能够响应玩家的情绪和情绪状态,并根据这些参数做出决策。


《 LA Noir》(2011年)中的《模仿》(Mimicry)可以让玩家猜测一个角色是否在撒谎或说出真相。随着NKI的出现,角色可以改变。

, , , . RPG, . (Mike Ambinder), Valve.

“真正的NCI”-替代标准的“​​物理”管理界面将是最后一步。这将解决现代界面的问题:反应时间长,需要记住按键,无法一次按很多按键。但是他会增加一些新内容:例如,缺乏触觉反馈。错过了“跳转”键,不难理解为什么角色没有跳跃。有了明智的命令,相同的情况就不再那么清楚了。

NQI开发的最后阶段是创建“矩阵”:将数据输出设备直接输出到大脑,绕过监视器,VR头盔和音频系统。根据加布(Gabe)的说法,理论研究已经在进行中,并带来很多惊喜:外部“复杂”任务-“连接”至运动皮层 -事实证明相对简单,而其他人(例如模仿冰冷的感觉)则非常复杂。


事实证明,大脑对于某些事物具有非常好的内置接口,而对于其他事物则具有非常差的内置接口。Valve的联合创始人兼首席执行官Gabe Newell


Valve使用的TMS设备。

同时,仍然没有必要在头骨内部进行爬升。对于初步研究,经颅磁刺激就足够了-一种方法,其中某些大脑结构受磁脉冲影响,从而引起深度刺激。现在,这种方法主要用于某些精神和神经疾病的治疗,Valve Mike未指定使用TMS。

脑植入物。加贝,你感觉如何?


Mike描述的大部分内容都可以使用EEG来实现。但他承认,有一天植入物将变得像LASIK一样常见-激光视力矫正手术。 Mike将这一点称为“ LASIK阈值”。埃隆·马斯克(Elon Musk)将克服这一难题,其公司Neuralink已经推出了N1植入物,并承诺在2020年开始临床试验。


在Neuralink创建的机器人外科医生,每分钟可植入多达192个电极,精度达几微米。


通过机器人将细丝分阶段植入电极中,以模拟大脑组织。 Neuralink出色地完成了为不同任务创建20种线程的工作。

据位于加利福尼亚大学旧金山分校的Neuralink员工Philip Sabes称,该项目的主要目标是帮助瘫痪者。包括-通过游戏,至少是虚拟地返回参加体育运动的机会。



一些侵入性NQI已在人体中进行了测试。2008年,Braingate皮质内植入物允许完全瘫痪的病人控制光标,而在2012年,已经从桌上拿起装有机械臂的瓶子并a了一口。借助Neuralink技术,可以扩展这些接口的功能。


神经接口可以帮助人们恢复听力,视力,改善假体,甚至恢复身体瘫痪的部位的功能。


颅骨内部的主要数据处理ASIC Neuralink模块。

在有创植入物的情况下,从大脑输出的数据与使用EEG一样复杂。为了使信息不失真,最好在尽可能接近神经元的地方进行主要处理,信号放大和噪声抑制。为此,Neuralink开发了特殊的即插即用模块,可以将其直接放置在患者的颅骨盒内。它们可以连接到USB-c和将来的蓝牙等标准接口,但是它们的主要优点是可扩展性,它使您可以一次连接大量模块。

Ilon自己一如既往地大胆制定目标:他想创建一个“全脑NQI”,为具有人工智能的人提供共生能力。同时,商人承认,即使有了Neuralink的所有成就,这仍然是很棒的。

接近现实


在2019年11月,Facebook收购了CTRL-labs。 CTRL实验室可能计划达到任何NQI的主要目标-大脑-根本不通过头骨上的孔来吸引注意力。而且这种方法看起来比其他方法更现实。


CTRL-kit的最早版本之一。

CTRL-实验室总监Thomas Reardon解释说,Neuralink植入物对瘫痪的病人有好处,但一个健康的人已经具有现成的神经接口-神经末梢和与之相连的肌肉。无创方法最适合于此:肌肉产生的活动比任何大脑结构发出的信号强几倍。实际上不需要最复杂的EEG解密算法-人体已经完成了主要工作。因此,2018年推出的CTRL-kit不是“头盔”,而是用于肌电图的手镯


演示“游戏” CTRL-lab之一。到目前为止,该公司的发展更像是一个游戏就绪界面,而不是任何基于EEG的作品。


该界面类似于CTRL-kit,于2009年出现但是相似性只是外部的:没有肌肉收缩,这种控制器就无法工作。

同时,可以将CTRL-kit视为读取神经元活动的完整的脑机接口。为了证明这一点,将来自Google Chrome的恐龙连接到了手镯。


演示使用CTRL-kit从Google Chrome浏览器控制恐龙的方法。

菲利普(Philip)说,学习平均需要90秒。在训练的第一阶段,玩家只需按下一个按钮。之后-它模仿在肌肉的帮助下按压-首先困难,然后-几乎反射。这里最有趣的事情发生了:肌肉被从链条中排除了。

: “ , ?”. . (Thomas Reardon), CTRL-labs CEO.

在某个时候,答案是:不需要收缩肌肉,只需考虑运动-这种冲动足以使CTRL-kit做出反应-恐龙会跳跃。


从桌子上拿起杯子,然后放到嘴里-还有什么会更容易?但是,这项任务只是乍一看就很简单-每次到杯子的距离,它的材质,重量,形状和其他参数都会发生变化。成人可以轻松地适应这些变化-以及使用CTRL-kit的不同选项。研究电机如何发生变化在机器人技术中很有用,因为机器尚不知道如何很好地适应变化的条件。

界面部分采用“ 电机ba啪 ”的原理“-混沌运动”,婴儿借助该运动绘制身体的“地图”,将大脑某些区域的活动与运动联系起来。逐渐地,这种培训的过程得以改善,但从未停止。 Ctrl-lab实质上重定向了此功能,以适应电动机接口的开发。

CTRL-kit不仅起作用,还有助于重建神经元组合在一起的链。根据Thomas的说法,主要突破是CTRL-labs技术可以检测单个神经元的活动。有关证据尚未发表,但该公司承诺在不久的将来发布一篇文章,如果结果令人信服,那么神经生物学的主要目标-解密大脑的工作原理将变得更近,以及在不干涉肌肉和周围神经元的情况下创建NQI。

值得注意的是,在Valve中,他们显然也对周围的神经系统感兴趣。Mike提到这种方法是减少响应时间的潜在方法。例如,如果从大脑到手指的信号达到100毫秒(以数字为例),则在接近肌肉时信号的“拦截”将帮助节省10-30毫秒。乍看之下,这微不足道,但是这种“作弊”肯定会吸引电子竞技。的确,尽管接口只能增加响应时间,但技术并不能保持稳定。

接下来会发生什么



科幻小说提出了许多与NQI相关的伦理问题,但是后NQI的世界肯定会构成更多。

Gabe相信技术将在娱乐业的所有领域中得到应用,但对预测表示怀疑。据他介绍,现在呈现后NQI世界就像是向一个从未听说过互联网的人解释互联网的含义。 “很酷,您可以在那里找到食谱!” -这样的人会说,但是他将无法预测Uber的外观。


自愿强迫游戏玩家购买新设备并非如此简单。在这方面,NQI的昂贵开发是巨大的风险。 《半条命:艾力克斯(2020)》的截图。

尽管如此,所有开发人员都说NII将成为虚拟现实技术的逻辑发展。让玩家戴上头盔不是一件容易的事,但是在VR头盔中添加NKI电极可以极大地改变游戏的感觉并使设备更具吸引力。


已经尝试制造混合头盔-Neurable已在多个展览中展示了这种设备,甚至宣布了《觉醒》游戏,但尚未发布。

所有公司员工的演讲中都提到了虚拟现实。但是没人说要等多少。Mike Embinder和Gabe Newell均未宣布《半条命3》在NKI上的发售日期。菲利普·萨比斯和埃隆·马斯克虽然提到了游戏,但这种侵入性植入物不太可能立即取代游戏手柄。只有托马斯·雷登(Thomas Reardon)会指定具体日期-考虑到CTRL-lab的实际做法,没有理由不相信他。据他介绍,首批大规模的NKI直到2024年才会出现在市场上。

其他材料:


对于那些渴望尝试NQI的人,我们整理了一系列与理论,与已售出或准备发布的设备和应用程序的链接。

BCI的历史和未来:

:
  • openbci.com — -, open-source . , .
  • store.neurosky.com – Neurosky, MindFlex StarWars Force Trainer, , , , .
  • emotiv.com – Neurosky, , -. « » . .
  • brainco.tech – BrainCo, . , .
  • next - mind.com - NextMind创业公司,之所以有趣,主要是因为他们即将发布的devkit是最紧凑和最移动的EEG设备。此外,开发人员承诺与游戏兼容。

作者:

Ivan Smirnov(I),概念画家,插画家,Smirnov学校的创始人。
遗传学家Artemy Tretyakov,Smirnov学校的作家。

All Articles