À medida que os sistemas autónomos se tornam mais sofisticados, surge uma questão crítica: podemos confiar nas máquinas para decisões que determinam vidas ou mortes?

Torsten Reil, cofundador da Helsing, traz uma perspetiva convincente para este debate em curso. O seu argumento central é simples—não importa o quão avançados se tornem os algoritmos, os humanos nunca devem ser removidos do ciclo de tomada de decisão.

Isto não é apenas filosofia. Trata-se de responsabilidade, ética e do valor insubstituível do julgamento humano em cenários onde as apostas não poderiam ser maiores. À medida que a guerra e as aplicações militares empurram a tecnologia de IA para territórios desconhecidos, manter os humanos no controlo permanece não apenas aconselhável, mas essencial.

A conversa levanta questões vitais: Onde traçamos a linha? Como equilibramos a capacidade tecnológica com a responsabilidade moral? Estes não são problemas que o código sozinho possa resolver.