로코의 바실리스크
바실리스크는 한 반만 보기만 해도 관찰자가 죽는 유럽 설화 속의 전설의 동물이다. “로코의 바실리스크 (Roko’s Basilisk)”는 존재를 알아치기만 해도 죽는다는 전설속의 동물을 빗대어 이름지어진 사고 실험이다. 2010년 Less Wrong이라는 논리 덕후들의 포럼에 Roko라는 사용자가 처음 올린 글에서 시작됐는 데, 참고로 Less Wrong을 만든 사람은 인공지능 연구자 Eliezer Yudkowsky로 “해리포터와 합리적 사고의 지향성”이라는 호불호가 크게 갈리는 팬픽의 작성자이기도 하다. 로코의 바실리스크를 짧게 설명하면 “미래의 초지능 AI는 자기의 탄생을 돕지 않은 인간에게 영원한 고통을 준다....