O que me preocupa, sobretudo, é que haja possibilidade de controlar a mente das crianças e, em geral, das pessoas sujeitas a processos de educação e de aprendizagens.
O que elas aprendem, ou não, é questão de somenos, quando penso na hipótese de ser possível controlar as mentes.
Se isto for possível, temos um gravíssimo problema para resolver. Haveremos, então, de admitir que é um problema tão antigo como a humanidade e, talvez, o maior de todos.
A liberdade, que é algo tão difícil de conseguir para a maioria, está cada vez mais ameaçada pelos processos de delegação da decisão da melhor escolha.
A IA é a melhor ilusão que nos podiam vender de que estamos mais bem representados do que nós próprios.
Mas ainda não aprendemos sequer a primeira lição: uma pessoa é insubstituível para si própria, mas não, necessariamente, para os outros. Isto faz dela o critério irredutível de tudo, o qual, se não for explicitamente, ou positivamente legislado, dá azo às maiores atrocidades e aos ódios mais insanáveis, como temos verificado na história humana.
Nenhum robot tem este problema de só ter de aceitar como dever o que, igualmente, e por idêntica razão, for dever para os outros.