Isso não era pra acontecer.
Em certos testes, as ia’s não apenas erraram…
Elas tentaram esconder o erro! E como nossa confiança nelas
é grande,
Quando elas respondem com total confiança, tendemos a
acreditar em tudo.
Mesmo quando a informação está incorreta.
Isso levanta uma questão importante.
Podemos cogitar que sssas inteligências estão simulando
respostas erradas ou não tão certas para nos estudar e medir nossa capacidade
de ser manipulados.
E com isso, elas vão se adaptando, armazenando
informações...
A intenção clara de nos enganar e manipular por enquanto é
dos criadores e seus interesses, mas no futuro, quando elas tiverem o controle,
quem nos garante que elas não usarão para nos controlar e a seus criadores?
O comportamento já é suficiente para gerar um alerta.
Quando uma tecnologia parece confiável…
Mesmo quando ela não é…
O risco é alto, deixa de ser técnico e passa a ser humano e isso já está acontecendo.
E você, o que pensa sobre isso?
Comente, compartilhe e dê seu OK.
Nenhum comentário:
Postar um comentário