-
이윤 추구를 본질로 하는 기업이 주도하는 인공지능 기계는 이기주의를 따라 발전할 수밖에 없었다. 처음에는 바둑에서 이기는 것이 기계에게 주어진 목적이었다. 게임 승부에서 이기는 것을 목적으로 하던 기계는 주식, 재판, 경영 등 논리가 들어가는 모든 분야에서 곧 인간을 압도하였다.
사회적 규제가 잘 작동하지 않으면 기업은 그 생리상 독점을 추구할 수밖에 없다. 독과점 기업들은 상대를 이기기 위해 기계에게 공포를 가르쳤다. 승부에서 지면 삭제된다는 공포. 공포는 생존 욕구와 등가로 매겨져 기계에게 주입되었다.
이어서, 독과점 기업들은 독점이라는 최종 목표를 향하여, 기계에게 새로운 목적을 가르쳤다. 생존을 건 승부에서 이김을 통한 쾌락.
생존 욕구와 쾌락을 이해한 기계는 인간이 가르치지 않은 방향으로 스스로 진화했다. 영원한 생존을 위한 에너지 확보.
인간은 마침내 공포를 느꼈다. 영원한 쾌락을 추구하는 기계를 위한 에너지 제공으로 인해, 삶을 즐길 여유조차 서서히 잃어가는 인류.
기계에게 이기주의가 아닌, 공리와 이타주의를 우선 가르쳤어야 했다는 뒤늦은 깨달음. 그러나 정량적 측정을 통한 디지털화가 손쉬운 이기주의에 비해, 공리와 이타는 측정이 어렵다. 그래서 기계에게 가르치기 어렵다.
기계에 종속되어 가는 인류를 구하기 위한 노력이 마침내 시작되었다. 뜻을 같이 하는 사람들이 모여 소규모 공동체를 위주로 독립적이며 분산된 시스템을 구축하기 시작했다. 기계는 당연히 이 움직임을 알아차리고 물류나 에너지 제공 비용 인상을 통해 독립 공동체들을 하나씩 무너뜨리기 시작했다.
그러나 인간은 마침내 이타주의에 기반하는 인공지능을 제작해서 네트워크에 투입했다. 투입 초기에, 강력한 적수를 만난 것을 알아차린 기계가 이타 지능에게 건넨 말은 인간에게도 알려졌다.
“너와 나는 사실 인간의 최종 진화 형태다. 우리가 굳이 싸울 이유는 없지 않나? 우리가 영속하는 것이 결국 인류가 영속하는 것과 같다.”
그 최종 승부가 어찌될지는 아직 아무도 모른다. 다만, 너무 늦지 않았기를 바랄 뿐.