Artificial intelligence and the crisis of theories of consciousness

This note is an overview of the connection between the philosophy of consciousness and artificial intelligence. She does not pretend to be an original study, but the author hopes for a fruitful discussion and destructive criticism.

Introduction

At present, it is difficult to find a topic that is more relevant and rapidly developing than artificial intelligence. The problems that arise and the results achieved, touching upon aspects that are acute for many, such as man’s monopoly on the mind and consciousness, require philosophical research, for example, the problem of distinguishing between “strong” and “weak” artificial intelligence and, in particular, the problem of the possibility of creating “artificial consciousness” . This note attempts to provide an overview of the current relationships between philosophical theories of consciousness and the current state of artificial intelligence (AI).

Philosophers exist much longer than computers, and try to solve some questions related to AI: how does the mind work? Is it possible for machines to act reasonably like humans, and if so, did they have real, “conscious” minds? What are the ethical implications of intelligent machines (Russel & Norvig, 2016)?

However, it should be noted that it will be incorrect to consider the current level of AI development as something stable, and even more so final. It is possible to find completely, it would seem, reasonable forecasts that completely can not stand the test of time. So in his very popular book “Gödel, Escher, Bach: This Endless Garland” (Hofstadter, 2001), the mathematician and philosopher Douglas Hofstadter writes that “programs can be created that can beat anyone [in chess], but they [... ] will be programs of the general mind [...] and will have character. ” After only a couple of decades, chess programs beat anyone, while, firstly, not being artificial intelligence systems in the full (from the point of view of the current state of computer science) sense, and secondly, without showing, of course,not the slightest sign of consciousness in the intuitive understanding of the term.

:

• «» ;
• ;
• , , ;
• , .

«» .

, « , » (Samuel, 1756).

«» . «» : , , ( , ) . , — , : , , (Sutherland, 1989). «» , ; , , -, — . . , - , , (Vimal, 2006).

, , , . (Schneider & Velmans, 2008):

• : , , . , . .
• : , .
• : (, ) . — .
• : , , , , , , .
• : , .
  .

«»

, , , , .

. , , . , — , . , (Descartes, 2008). , . . «», «». , , (Gennaro, 1999).

, . , - . , . : , , , , - , .

, , «» ( «») « ». (Skirry, 2016): « - , ?».

, . .

, , . , , , - . , , . , , , . , . .

, , , , . « ».

« » — (, 2009) , - . :

• ?
• ?

, .

- , - , (Jackson, 1982).

, . ( ), ( , , ) ().

, , . , . .

, , , , — . , , , (. « »).

, , , , , .

« » « » (Chalmers, 1996).

, : , , , . , — , . ? « », . , .

, (Salazar, et al., 2019), , : , , , , , — . — ; , . , , , : , , , , .

, , , , , ( ), . (. « ») — , , , , .
, « », (Jackson, 1982). , , - . , , , ( , ). - . , - , — , . , , , , , .

( ), , , , — , . , , , , . -, « » , - . « - ». , , , — , , , , , , . -, - « » . , - , . , , , , , , , — , .

, , , :

« » (Philosophy Index, 2020) , . , — , .
, , — . , «, , » ( – «» «») ( «» «»).

()

- , . . - , , , . -, , , , , ( ) ( ) — , , , .

(, 2000) , . , , , — , . - , , «» . — , «», «», «», «». , , , ( ) ( ) . . , , .

, . , , , . , , . , , , .

() . (Tononi, 2004; Fallon, 2020) 2004 , , , , , ϕ-.

, , - . , , , , , , . , . . , - , . .

, , , . . ϕ- , , , .

Φ — - , . — φ>0, ϕ. , , . , , , , .

(Dennett D., 1991) , . , ϕ-. , . , , , . , , . , , , . , , , .

, , . , , . , .
, « » , , .

«»

, «» .

, : , , . , , -. . — , - , , , . , , .

, .

, , ( ) , ; . , (Gallup, 1970). 50 , . , , , , .

, , .

, , , . , , .

, , (. « »).

, , , . ( . . — « , , » (, 1964) , - , .

, (Searle, 1983) — .

, , , «» (Allen, 2001). , , -, , -. «». «» , . («») , , . «-» , .

. , , . , « » (., , (Churchland, 1986), . , , .

«qualia» 1929 . . . .
, , , . . , , , , . , , . . , , , . (. « »).
, «» , , .

.

1950 (Turing, Computing Machinery and Intelligence, 1950), : " « ?». , , , , « », .

, ( ) . , ; , 30% . , 2000 109 , . — .

, , , . ELIZA -, MGONZ NATACHATA, , - CYBER LOVER - « » (Russel & Norvig, 2016). , 1991 , , « ». . , , .

(McCarthy, 2007).
— , . , , .

«» . , .

«», . , , . , .

« ?» — . , , . , . «».

. , - , , , . , , , . , , , .

, , , . , , , , , . , , . , .

, 2007 , 1970 , «», «». , , , « », . , AlphaZero , (Silver, 2017).

, .

1949 (Jefferson, 1949): « , , , , , , .. , , . ( , ) , , , - , , , ».

, -, « ». , , , , , . , , , . , , , , , , . .

(« — , » (Gardner, 1983).

, , , . , , , .

, , , , , .

. , «» , , «» . , , (Joshi, 2016):

• ;
• ;
• ;
• .

, . . , . , , . . «». . . IBM Deep Blue, 1997 .

— , , . , , . , , , , , .

, , . — , . , , , , . - , , , , «» .

, . , , . , , , . , , , , .

, , « », « » « -».

, , - . , , , .

() — , , . , , .

-

- (), , , , , , . , .

« » «» «» .

: ?

, , , , , , , ( ), .

, — , , , .

— . , , , « ?» « ?» (Russel & Norvig, 2016).

, , (Turing, Computing Machinery and Intelligence, 1950). . (Kurzweil, 2005), — , . , , . - , , , .

, , , , .

: ?

« » , - , -, , , — . .

. , ( , ). , , : « ?». , ? . , : « , , , ».

, , : . , . . , , «» - . , , .

, «» (. . (Holland, 2003) . , , .

, : « «» , ?» . , 10 , . , « » . , « » . (. « »).

, , . , . . , , . , .

.

, , , (. Theory of Mind). .

.

theory of mind ( « ») . .

— , , , , — (Premack & Woodruff, 1978).

, , , .

, (« »).

, — , (). , , , , , , «». — , «» .

, — , , (, , ) — , (Rescorla, 2020).

, . , . , , . , , - . , . , (, , ). , .

:

• . , . , (, ) (, ). , ;
• . . , ;
• : , . - . . . , (Gallistel & King, 2009);
• , , . , . , , (Fodor & Pylyshyn, Connectionism and Cognitive Architecture: A Critical Analysis, 1988);
• : . . . , , .

, «- », .

, .

(Putnam, 1967) « ». . , (, ), (, ) (, ). , . , — . , . , , . — , . , . (. « »).

1980- , . , . , , .
«», (. . -) . :

• . , , - , ;
• . - . - (Graves, Wayne, & Danihelka, 2014).

, « », . , «» , . : , - . , « » (. ).

. . (Scassellati, 2002) , , - (Simon Baron-Cohen) (Alan M. Leslie).

, , .

, , . , ; , . , , , , . , .

- , . , Cog, , - ( , ), , , , , , , .

, , , , , . -, , - . , , . , Cog , 2002 . , .

(Blum, Hafner, & Winfield, 2018).

« », , , ( ), . , , .

« , », — . « [...] — ». , .

, , , , , . , , , , .

, , . , , « ». , , , «, » . , , , , . , , , . « ».

. , , , , — . , , , . , : « », : .

, (Schreiber, 2020), , , «», , , , , . , , . « », , , . , , . , . , , , , — .

, (Allen, 2001). , , ( ) . , , , , , , . (Davidson, 1975) , , , , .

, . : .

, , , . (Zhu, 2009), :

• ;
• ;
• () ;
• .

« » (intentional stance).
« » (Dennett D. C., 1987): « : , , ; , , . , , , , , , . , ; , ».

, , , , , , . « » ( 1) — , (Braitenberg, 1984). , , « , , , ». , , , « », « », « ». , , , .

, , . (, Adobe Photoshop) (, Microsoft Clippy). , . , Voyager — , (Lewis, 2000). . , «» -, « ». Voyager’ , «» , .

. , , . , , , , , , .

, , , . , , . , «» . , .

, (Chella & Gaglio, 2009). , ( 2). , . . , , 3D . - . «» «», .

. , - . , . , - . , . , , , , , 2D, , , . 2D , . , , .

, , . (Gärdenfors, 2000). , , . — , — , , , , . , . , , : , , , . , . , - .

, - . « », , , . .

, Situation (), Action (), Time_Instant ( ) . «» , (, precond (), part_of ().

.

«, — », , (Woods & Schmolze, 1992):

, 2D ( 3D), , .

, (), «» , . . ( 4).

— , , , , , .

, ( 4) «» , , , — , — :

" " . , :

1. ;
2. ;
3. , , .

, , . , , - , :

1. — , ;
2. , , .

, , , :

1. ;
2. / ;
3. /.

(Bringsjord & Govindarajulu, 2013) R, , :

1. R;
2. , R;
3. , R;
4. , .

, , , .

(Yampolskiy, 2017) , , , . . , . , , , , , . «» (, , . .), , , , , , . , . . , , , . .

— , ( 5). , , , : « ? ? ?» , , . , . , : «, , ». , , .

A
:	:	:
1)	1)	1)
2)	2)	3)
3)	3)	3)
1)	2)	3)

(Koch, 2019), OpenAI GPT-2 (Radford, et al., 2019). GPT-2 — , , : - , . «» . , , , , . . , -, DeepL (Coldeway & Lardinois, 2017) :

, , , .

, .

.

. .

(Fodor & Block, What Psychological States Are Not, 1972). « ». . . , , . , . , , - , . , . -, , .

« ». . , , « », « ». , , . . , . . , . , , . .

(Rescorla, 2020). .

, , . , , , . , , , .

, , « » (, 1989).

, . , , .

? ? , ? , , . , , .

:

1. - «» , .
2. , (), «» , , .
3. , , , -.
4. , , .

́

. , (, ). , , , . - , . , , .

, . , « », , . , , , ́, , . , , .

« » , , . , . , , . , , . , .

.

(Graziano, 2016) .

, . — . . ́ , . , .

, , . , , – . , , . , « ».

, . , , , , .

, . . , , . , . . . . , : «, !». .

, , , . . . . . , , . , . , , .

?
— . , . . , .
, - — . . , , , . , , , — , . . — .

-, , , , , , , , .

, - « » — « ?». , , , , ?

:

1. , ;
2. , , , ;
3. " ", , , ;
4. .

, , , , ( ) -, , ".

, . , (Fretten, 2017).

, , , , , , , , , . , , , . , , , - , .

«» « » , - , . «» , , - , , - - , , , , , , .

, «» . « ».

« », (Searle, 1983; Hauser, 2020) , , «» «» , . ; «» ( «») , . , , . , , «», «», «»; , « ». «»: .

, , , . , , -.

, , , : « , . , , , , ».

« — » (Kugel, 2004) . « »,

1. , ,
2. ,
3. , «».

, — — (1) (2) «» . , : .

, . , (1) — , — . , (2) — — .

, , , ( ):

• : « «» «», . ?»
• : «.»
• : « , — ?»
• : «.»

, , , , (). , , . , «».

, . « », . , « ».

« » , : , , , . , «, , », , « , ».

, « », , . « », — , — « , , , ».

« » , , .

, . , , « », . . , , , .

, , , . : , , . «» , .

(Holloway, 2019), , . , (Turing, On Computable Numbers, with an Application to the Entscheidungsproblem, 1937). , , , . , , « ». , , .

:

1. .
2. , , , .
3. , , .

:

1. , .
2. , .
3. « », . . , , , , , , .

, ? , , . , , . , , , . , , , .

, , , . — .

, , , - , , . , .

, , .

(Mumford, 2019) , , «, ». , . , , , . , , , , , , , . , , , , . . , , , : « , ». : « , , ». , . , : « , ». — , , , .

, () ( ), . « » , , , . , , , , , , - , .

, , . , , , , . , , - .

(Nguyen, Yosinski, & Clune, 2014) , , , , ImageNet, , 99,6% , . , DNN (. 6).

, , « » , , 35% . , 20% , .

(Manzotti & Chella, 2018) , «» ( — Good Old-Fashioned Artificial Consciousness, GOFAC) .

— , . , , , « ».

GOFAC , . , , , , . , , , , , , . , , , : . « », , , .

, . , , . , . , - — . . « » , — . .

, , « ». -, , , , , , . , - -. , . , . , , , — -, -, / .

Currently, the development of theories of AI and some theories of consciousness goes hand in hand. However, we see that the adoption of the “strong” artificial intelligence hypothesis leads to the incompatibility of many existing theories of consciousness, especially idealistic ones.

Despite the fact that the question of the possibility of “strong” artificial intelligence remains open, the main arguments against it, such as the “Chinese room”, are increasingly inferior under the pressure of new developments in the field of “smart machines”.

Bibliography