뇌과학은 치매와 같은 환자를 치료하는 수준을 넘어 정상인의 신체와 인지기능 향상으로 범위를 넓히고 있다. 특히, 인공지능의 발전과 상호 영향을 주고받으며, 인간의 인지능력을 향상시키고 있다. 이런 융합기술의 핵심기술로 BCI(Brain- Computer Interface)가 부상하고 있다. BCI는 뇌와 기계를 연결하는 기술을 말하며, 뇌와 기계의 연결에서 인공지능은 정확하게 사용자의 의도가 기계에 반영되어 움직일 수 있도록 하고 있다. 이런 과정은 인공지능 기술개발에도 적용되고 있으며, 인간 뇌를 모사한 인공지능 발전을 촉진하고 있다. 인공지능이 스스로한 행위에 대해 ‘설명할 수 있는 인공지능(XAI)’까지 등장하였으며, XAI는 다시 BCI기술에 적용되어 인지증강에 혁신적으로 기여하고 있다.
인공지능과 인지증강의 융합발전은 빠르게 발전하고 있는데, 기술발전에 대한 윤리적, 법률적, 사회적 문제에 대한 성찰과 검토는 미흡하다. BCI 기술 오남용으로 인한 감염과 같은 생물학적 피해, 뇌파와 같은 생체정보의 유출문제, 그리고 기계의 전기자극이 뇌에 미치는 영향 등에 대해 구체적으로 논의된 바가 없다. 그리고 인지증강과 같은 기술이 특정계층의 이익에만 사용되는 경제적 차별문제, 인공지능으로 인한 인간의 기계 대체화와 인간 정체성에 대한 문제까지 제기될 수 있다.
이에 미래에 발생할 것으로 예상되는 쟁점을 발굴하여 국가사회적으로 대응함과 동시에 신기술 사용에 대한 윤리적 검토가 필요하다. 첫 번째로 융합기술에 대한 사회적 함의를 형성하여 혁신적 연구개발 촉진과 윤리적 문제를 동시에 검토할 필요가 있다. 두 번째로 융합기술에 대한 법과 정책을 마련하기 위한 거버넌스 구축이 필요하다. 정부차원의 위원회 설치, 전문기관 운영으로 법정책의 효과성을 높일 필요가 있다. 마지막으로 민간 자율적으로 융합기술에 대한 수용성을 높이기 위해 기존 윤리 프레임의 한계를 넘어 새로운 융합 윤리 정립과 확산을 도모할 필요가 있다.
Neuroscience is expanding its scope to improve the body and Intelligent function of normal people beyond treating patients such as dementia. In particular, it is interacting with the development of artificial intelligence and improving human Intelligent ability. Brain-computer interface(BCI) is emerging as a core technology of this convergence technology. BCI refers to the technology that connects the brain to the machine, and in the connection between the brain and the machine, artificial intelligence allows the user's intention to be accurately reflected in the machine and moved. This process is also applied to the development of artificial intelligence technology and promotes the development of artificial intelligence that imitates the human brain. ‘explainable AI(XAI)’ has even emerged to explain what artificial intelligence has done on its own, and XAI has been applied to BCI technology again, contributing innovatively to Intelligence Augmentation.
The convergence development of artificial intelligence and Intelligence Augmentation is rapidly developing, and reflection and review on ethical, legal, and social issues about technological development are insufficient. BCI Biological damage such as infection caused by misuse of technology, leakage of biometric information such as brain waves, and the effect of electrical stimulation on the brain of the machine have not been specifically discussed. In addition, the problem of economic discrimination, in which technologies such as Intelligence Augmentation are used only for the interests of certain classes, and the problem of human machine replacement and human identity due to artificial intelligence can be raised.
Accordingly, it is necessary to discover issues expected to arise in the future and respond at the national and social level, and at the same time, an ethical review on the use of new technologies is needed. First, it is necessary to promote innovative R&D and review ethical issues at the same time by forming social implications for convergence technology. Second, it is necessary to establish governance to prepare laws and policies for convergence technology. It is necessary to increase the effectiveness of legal policies by establishing committees at the government level and operating specialized institutions. Finally, in order to increase the acceptance of convergence technology autonomously by the private sector, it is necessary to establish and spread new convergence ethics beyond the limitations of existing ethical frames.