人工智能与意识理论的危机

本笔记概述了意识哲学与人工智能之间的联系。她并不假装是原始研究，但作者希望进行富有成果的讨论和破坏性的批评。

介绍

目前，很难找到比人工智能更相关且发展迅速的话题。出现的问题和取得的成果涉及许多对人类都非常敏感的方面，例如人对理性和意识的垄断，这需要哲学研究，例如区分“强”和“弱”人工智能的问题，尤其是可能产生“人工智能”的问题。 。本文旨在概述意识哲学理论与人工智能（AI）当前状态之间的当前关系。

哲学家的存在时间远比计算机长，并且试图解决与AI有关的一些问题：思维如何工作？机器是否有可能像人类一样合理地行动？如果是，它们是否具有真实的“意识”头脑？智能机器的伦理意义是什么（Russel＆Norvig，2016）？

但是，应该注意的是，将当前的AI开发水平视为稳定的东西，甚至最终都将是不正确的。似乎可以找到完全无法经受时间考验的合理预测。因此，在数学家和哲学家道格拉斯·霍夫施塔特（Douglas Hofstadter）的著作中，他很受欢迎的书《戈德尔，埃舍尔，巴赫：这无尽的花环》（霍夫施塔特，2001年）写道：“可以创造出可以击败任何人的程序，但它们[...] ]将是一般思想的程序，并将具有个性。” daccess-ods.un.org daccess-ods.un.org仅仅过了几十年，国际象棋程序就击败了任何人，首先，它并不是完全成熟的人工智能系统（从当前计算机科学的角度来看），其次，却没有表现出来，在该术语的直观理解中并不是意识的丝毫迹象。

该注释的结构如下：

• 第一部分提供了“意识”的现有定义和现有理论的概述；
• 第二部分给出了人工智能的定义及其分类。
• 在第三部分中，在单独的示例中，考虑了构成意识的一般概念的概念对现代AI的适用性；
• 在最后一部分中，意识理论与现代AI理论的交叉出现了一些问题。

意识理论

本节提供了“意识”的现有定义以及现有意识理论的概述。

定义

现代意识的概念可以追溯到约翰·洛克（John Locke），后者将其定义为“对自己头脑中正在发生的事情的感知”（Samuel，1756）。

«» . «» : , , ( , ) . , — , : , , (Sutherland, 1989). «» , ; , , -, — . . , - , , (Vimal, 2006).

, , , . (Schneider & Velmans, 2008):

• : , , . , . .
• : , .
• : (, ) . — .
• : , , , , , , .
• : , .
  .

«»

, , , , .

. , , . , — , . , (Descartes, 2008). , . . «», «». , , (Gennaro, 1999).

, . , - . , . : , , , , - , .

, , «» ( «») « ». (Skirry, 2016): « - , ?».

, . .

, , . , , , - . , , . , , , . , . .

, , , , . « ».

« » — (, 2009) , - . :

• ?
• ?

, .

- , - , (Jackson, 1982).

, . ( ), ( , , ) ().

, , . , . .

, , , , — . , , , (. « »).

, , , , , .

« » « » (Chalmers, 1996).

, : , , , . , — , . ? « », . , .

, (Salazar, et al., 2019), , : , , , , , — . — ; , . , , , : , , , , .

, , , , , ( ), . (. « ») — , , , , .
, « », (Jackson, 1982). , , - . , , , ( , ). - . , - , — , . , , , , , .

( ), , , , — , . , , , , . -, « » , - . « - ». , , , — , , , , , , . -, - « » . , - , . , , , , , , , — , .

, , , :

« » (Philosophy Index, 2020) , . , — , .
, , — . , «, , » ( – «» «») ( «» «»).

()

- , . . - , , , . -, , , , , ( ) ( ) — , , , .

(, 2000) , . , , , — , . - , , «» . — , «», «», «», «». , , , ( ) ( ) . . , , .

, . , , , . , , . , , , .

() . (Tononi, 2004; Fallon, 2020) 2004 , , , , , ϕ-.

, , - . , , , , , , . , . . , - , . .

, , , . . ϕ- , , , .

Φ — - , . — φ>0, ϕ. , , . , , , , .

(Dennett D., 1991) , . , ϕ-. , . , , , . , , . , , , . , , , .

, , . , , . , .
, « » , , .

«»

, «» .

, : , , . , , -. . — , - , , , . , , .

, .

, , ( ) , ; . , (Gallup, 1970). 50 , . , , , , .

, , .

, , , . , , .

, , (. « »).

, , , . ( . . — « , , » (, 1964) , - , .

, (Searle, 1983) — .

, , , «» (Allen, 2001). , , -, , -. «». «» , . («») , , . «-» , .

. , , . , « » (., , (Churchland, 1986), . , , .

«qualia» 1929 . . . .
, , , . . , , , , . , , . . , , , . (. « »).
, «» , , .

.

1950 (Turing, Computing Machinery and Intelligence, 1950), : " « ?». , , , , « », .

, ( ) . , ; , 30% . , 2000 109 , . — .

, , , . ELIZA -, MGONZ NATACHATA, , - CYBER LOVER - « » (Russel & Norvig, 2016). , 1991 , , « ». . , , .

(McCarthy, 2007).
— , . , , .

«» . , .

«», . , , . , .

« ?» — . , , . , . «».

. , - , , , . , , , . , , , .

, , , . , , , , , . , , . , .

, 2007 , 1970 , «», «». , , , « », . , AlphaZero , (Silver, 2017).

, .

1949 (Jefferson, 1949): « , , , , , , .. , , . ( , ) , , , - , , , ».

, -, « ». , , , , , . , , , . , , , , , , . .

(« — , » (Gardner, 1983).

, , , . , , , .

, , , , , .

. , «» , , «» . , , (Joshi, 2016):

• ;
• ;
• ;
• .

, . . , . , , . . «». . . IBM Deep Blue, 1997 .

— , , . , , . , , , , , .

, , . — , . , , , , . - , , , , «» .

, . , , . , , , . , , , , .

, , « », « » « -».

, , - . , , , .

() — , , . , , .

-

- (), , , , , , . , .

« » «» «» .

: ?

, , , , , , , ( ), .

, — , , , .

— . , , , « ?» « ?» (Russel & Norvig, 2016).

, , (Turing, Computing Machinery and Intelligence, 1950). . (Kurzweil, 2005), — , . , , . - , , , .

, , , , .

: ?

« » , - , -, , , — . .

. , ( , ). , , : « ?». , ? . , : « , , , ».

, , : . , . . , , «» - . , , .

, «» (. . (Holland, 2003) . , , .

, : « «» , ?» . , 10 , . , « » . , « » . (. « »).

, , . , . . , , . , .

.

, , , (. Theory of Mind). .

.

theory of mind ( « ») . .

— , , , , — (Premack & Woodruff, 1978).

, , , .

, (« »).

, — , (). , , , , , , «». — , «» .

, — , , (, , ) — , (Rescorla, 2020).

, . , . , , . , , - . , . , (, , ). , .

:

• . , . , (, ) (, ). , ;
• . . , ;
• : , . - . . . , (Gallistel & King, 2009);
• , , . , . , , (Fodor & Pylyshyn, Connectionism and Cognitive Architecture: A Critical Analysis, 1988);
• : . . . , , .

, «- », .

, .

(Putnam, 1967) « ». . , (, ), (, ) (, ). , . , — . , . , , . — , . , . (. « »).

1980- , . , . , , .
«», (. . -) . :

• . , , - , ;
• . - . - (Graves, Wayne, & Danihelka, 2014).

, « », . , «» , . : , - . , « » (. ).

. . (Scassellati, 2002) , , - (Simon Baron-Cohen) (Alan M. Leslie).

, , .

, , . , ; , . , , , , . , .

- , . , Cog, , - ( , ), , , , , , , .

, , , , , . -, , - . , , . , Cog , 2002 . , .

(Blum, Hafner, & Winfield, 2018).

« », , , ( ), . , , .

« , », — . « [...] — ». , .

, , , , , . , , , , .

, , . , , « ». , , , «, » . , , , , . , , , . « ».

. , , , , — . , , , . , : « », : .

, (Schreiber, 2020), , , «», , , , , . , , . « », , , . , , . , . , , , , — .

, (Allen, 2001). , , ( ) . , , , , , , . (Davidson, 1975) , , , , .

, . : .

, , , . (Zhu, 2009), :

• ;
• ;
• () ;
• .

« » (intentional stance).
« » (Dennett D. C., 1987): « : , , ; , , . , , , , , , . , ; , ».

, , , , , , . « » ( 1) — , (Braitenberg, 1984). , , « , , , ». , , , « », « », « ». , , , .

, , . (, Adobe Photoshop) (, Microsoft Clippy). , . , Voyager — , (Lewis, 2000). . , «» -, « ». Voyager’ , «» , .

. , , . , , , , , , .

, , , . , , . , «» . , .

, (Chella & Gaglio, 2009). , ( 2). , . . , , 3D . - . «» «», .

. , - . , . , - . , . , , , , , 2D, , , . 2D , . , , .

, , . (Gärdenfors, 2000). , , . — , — , , , , . , . , , : , , , . , . , - .

, - . « », , , . .

, Situation (), Action (), Time_Instant ( ) . «» , (, precond (), part_of ().

.

«, — », , (Woods & Schmolze, 1992):

, 2D ( 3D), , .

, (), «» , . . ( 4).

— , , , , , .

, ( 4) «» , , , — , — :

" " . , :

1. ;
2. ;
3. , , .

, , . , , - , :

1. — , ;
2. , , .

, , , :

1. ;
2. / ;
3. /.

(Bringsjord & Govindarajulu, 2013) R, , :

1. R;
2. , R;
3. , R;
4. , .

, , , .

(Yampolskiy, 2017) , , , . . , . , , , , , . «» (, , . .), , , , , , . , . . , , , . .

— , ( 5). , , , : « ? ? ?» , , . , . , : «, , ». , , .

A
:	:	:
1)	1)	1)
2)	2)	3)
3)	3)	3)
1)	2)	3)

(Koch, 2019), OpenAI GPT-2 (Radford, et al., 2019). GPT-2 — , , : - , . «» . , , , , . . , -, DeepL (Coldeway & Lardinois, 2017) :

, , , .

, .

.

. .

(Fodor & Block, What Psychological States Are Not, 1972). « ». . . , , . , . , , - , . , . -, , .

« ». . , , « », « ». , , . . , . . , . , , . .

(Rescorla, 2020). .

, , . , , , . , , , .

, , « » (, 1989).

, . , , .

? ? , ? , , . , , .

:

1. - «» , .
2. , (), «» , , .
3. , , , -.
4. , , .

́

. , (, ). , , , . - , . , , .

, . , « », , . , , , ́, , . , , .

« » , , . , . , , . , , . , .

.

(Graziano, 2016) .

, . — . . ́ , . , .

, , . , , – . , , . , « ».

, . , , , , .

, . . , , . , . . . . , : «, !». .

, , , . . . . . , , . , . , , .

?
— . , . . , .
, - — . . , , , . , , , — , . . — .

-, , , , , , , , .

, - « » — « ?». , , , , ?

:

1. , ;
2. , , , ;
3. " ", , , ;
4. .

, , , , ( ) -, , ".

, . , (Fretten, 2017).

, , , , , , , , , . , , , . , , , - , .

«» « » , - , . «» , , - , , - - , , , , , , .

, «» . « ».

« », (Searle, 1983; Hauser, 2020) , , «» «» , . ; «» ( «») , . , , . , , «», «», «»; , « ». «»: .

, , , . , , -.

, , , : « , . , , , , ».

« — » (Kugel, 2004) . « »,

1. , ,
2. ,
3. , «».

, — — (1) (2) «» . , : .

, . , (1) — , — . , (2) — — .

, , , ( ):

• : « «» «», . ?»
• : «.»
• : « , — ?»
• : «.»

, , , , (). , , . , «».

, . « », . , « ».

« » , : , , , . , «, , », , « , ».

, « », , . « », — , — « , , , ».

« » , , .

, . , , « », . . , , , .

, , , . : , , . «» , .

(Holloway, 2019), , . , (Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, 1937). , , , . , , « ». , , .

:

1. .
2. , , , .
3. , , .

:

1. , .
2. , .
3. « », . . , , , , , , .

, ? , , . , , . , , , . , , , .

, , , . — .

, , , - , , . , .

, , .

(Mumford, 2019) , , «, ». , . , , , . , , , , , , , . , , , , . . , , , : « , ». : « , , ». , . , : « , ». — , , , .

, () ( ), . « » , , , . , , , , , , - , .

, , . , , , , . , , - .

(Nguyen, Yosinski, & Clune, 2014) , , , , ImageNet, , 99,6% , . , DNN (. 6).

, , « » , , 35% . , 20% , .

(Manzotti & Chella, 2018) , «» ( — Good Old-Fashioned Artificial Consciousness, GOFAC) .

— , . , , , « ».

GOFAC , . , , , , . , , , , , , . , , , : . « », , , .

, . , , . , . , - — . . « » , — . .

, , « ». -, , , , , , . , - -. , . , . , , , — -, -, / .

当前，人工智能理论和一些意识理论的发展是齐头并进的。但是，我们看到采用“强”人工智能假设会导致许多现有意识理论（特别是理想主义理论）不兼容。

尽管“强大的”人工智能的可能性问题仍然存在，但在“智能机器”领域的新发展压力下，诸如“中国房间”之类的反对它的主要论点越来越逊色。

参考书目