Theoretical Foundations of Artificial General Intelligence
1. Introduction 1
Pei Wang and Ben Goertzel
1.1 The Matter of Artificial General Intelligence . . . . . . . . . . . . . . . . . . . . . 1
1.2 The Matter of Theoretical Foundation . . . . . . . . . . . . . . . . . . . . . . . . 3
1.3 TheMatterofObjective . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.4 TheMatterofApproach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.5 Challenges at theHeartof theMatter . . . . . . . . . . . . . . . . . . . . . . . . 6
1.6 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
2. Artificial Intelligence and Cognitive Modeling Have the Same Problem 11
Nicholas L. Cassimatis
2.1 The Intelligence Problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.2 Existing Methods and Standards are not Sufficient . . . . . . . . . . . . . . . . . . 13
2.3 CognitiveModeling: TheModelFit Imperative . . . . . . . . . . . . . . . . . . . 16
2.4 Artificial Intelligence and Cognitive Modeling Can Help Each Other . . . . . . . . 21
2.5 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
3. The Piaget-MacGuyver Room 25
Selmer Bringsjord and John Licato
3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.2 More onPsychometricAGI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
3.3 Descartes’TwoTests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3.4 Piaget’sViewofThinking&TheMagnetTest . . . . . . . . . . . . . . . . . . . . 35
3.5 TheLISAmodel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
3.6 Analogico-DeductiveReasoning intheMagnetTest . . . . . . . . . . . . . . . . . 39
3.7 NextSteps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
v
vi Theoretical Foundations of Artificial General Intelligence
4. Beyond the Octopus: From General Intelligence toward a Human-likeMind 49
Sam S. Adams and Steve Burbeck
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
4.2 Octopus Intelligence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4.3 A “Ladder” of Intelligence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
4.4 Linguistic Grounding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
4.5 Implications of theLadder forAGI . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
5. One Decade of Universal Artificial Intelligence 67
Marcus Hutter
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
5.2 TheAGIProblem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
5.3 Universal Artificial Intelligence . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
5.4 Facets of Intelligence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
5.5 SocialQuestions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
5.6 Stateof theArt . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
5.7 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
6. Deep Reinforcement Learning as Foundation for Artificial General Intelligence 89
Itamar Arel
6.1 Introduction: Decomposing the AGI Problem . . . . . . . . . . . . . . . . . . . . 89
6.2 DeepLearningArchitectures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
6.3 Scaling Decision Making under Uncertainty . . . . . . . . . . . . . . . . . . . . . 94
6.4 NeuromorphicDevices ScalingAGI . . . . . . . . . . . . . . . . . . . . . . . . . 99
6.5 Conclusions andOutlook . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 101
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
7. The LIDA Model as a Foundational Architecture for AGI 103
Usef Faghihi and Stan Franklin
7.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
7.2 WhytheLIDAModelMayBeSuitable forAGI . . . . . . . . . . . . . . . . . . . 104
7.3 LIDAArchitecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
7.4 CognitiveArchitectures,Features andtheLIDAModel . . . . . . . . . . . . . . . 108
7.5 Discussion,Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
Contents vii
8. The Architecture of Human-Like General Intelligence 123
Ben Goertzel, M. Iklé, and J. Wigmore
8.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
8.2 Key Ingredients of the Integrative Human-Like Cognitive Architecture Diagram . . 125
8.3 An Architecture Diagram for Human-Like General Intelligence . . . . . . . . . . . 128
8.4 InterpretationandApplicationof the IntegrativeDiagram . . . . . . . . . . . . . . 136
8.5 CognitiveSynergy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
8.6 WhyIs ItSoHardtoMeasure PartialProgressTowardHuman-LevelAGI? . . . . 140
8.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144
9. A New Constructivist AI 145
Kristinn R. Thórisson
9.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
9.2 The Nature of (General) Intelligence . . . . . . . . . . . . . . . . . . . . . . . . . 147
9.3 ConstructionistAI:ACriticalLook . . . . . . . . . . . . . . . . . . . . . . . . . 151
9.4 The Call for a New Methodology . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
9.5 Towards aNewConstructivistAI . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
9.6 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
10. Towards an Actual Gödel Machine Implementation 173
Bas R. Steunebrink and Jürgen Schmidhuber
10.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173
10.2 TheGödelMachineConcept . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
10.3 The Theoretical Foundations of Self-Reflective Systems . . . . . . . . . . . . . . 178
10.4 NestedMeta-CircularEvaluators . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
10.5 AFunctional Self-ReflectiveSystem . . . . . . . . . . . . . . . . . . . . . . . . . 186
10.6 Discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191
Appendix: DetailsofNotationUsed . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194
11. Artificial General Intelligence Begins with Recognition 197
Tsvi Achler
11.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197
11.2 Evaluating Flexibility . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
11.3 Evaluation of Flexibility . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
11.4 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
viii Theoretical Foundations of Artificial General Intelligence
12. Theory Blending as a Framework for Creativity in Systems for General Intelligence 219
Maricarmen Martinez et al.
12.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
12.2 Productivity and Cognitive Mechanisms . . . . . . . . . . . . . . . . . . . . . . . 221
12.3 Cross-DomainReasoning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
12.4 Basic Foundations of Theory Blending . . . . . . . . . . . . . . . . . . . . . . . . 226
12.5 TheComplexPlane: AChallengingHistoricalExample . . . . . . . . . . . . . . . 228
12.6 Outlook for Next Generation General Intelligent Systems . . . . . . . . . . . . . . 233
12.7 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238
13. Modeling Emotion and Affect 241
Joscha Bach
13.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241
13.2 EmotionandAffect . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
13.3 Affective States Emerging from Cognitive Modulation . . . . . . . . . . . . . . . 246
13.4 Higher-LevelEmotionsEmergingfromDirectingValencedAffects . . . . . . . . . 250
13.5 GeneratingRelevance: theMotivational System . . . . . . . . . . . . . . . . . . . 252
13.6 MotiveSelection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 257
13.7 Putting it All Together . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
14. AGI and Machine Consciousness 263
Antonio Chella and Riccardo Manzotti
14.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263
14.2 Consciousness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 264
14.3 MachineConsciousness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267
14.4 Agent’sBody . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270
14.5 InteractionswiththeEnvironment . . . . . . . . . . . . . . . . . . . . . . . . . . 271
14.6 Time . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 273
14.7 FreeWill . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274
14.8 Experience . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275
14.9 Creativity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277
14.10 Conclusions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
15. Human and Machine Consciousness as a Boundary Effect in the Concept
Analysis Mechanism 283
Richard Loosemore
15.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283
15.2 TheNature ofExplanation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288
15.3 TheRealMeaning ofMeaning . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297
15.4 SomeFalsifiablePredictions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301
15.5 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 303
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304
Contents ix
16. Theories of Artificial Intelligence 305
Pei Wang
16.1 TheProblemofAITheory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 305
16.2 Nature andContent ofAITheories . . . . . . . . . . . . . . . . . . . . . . . . . . 308
16.3 DesiredPropertiesof aTheory . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312
16.4 Relations among theProperties . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317
16.5 Issues ontheProperties . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 318
16.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321
Index 325.