요즘 대부분의 사람들이 AI를 사용할 겁니다. 저도 그렇고. 하지만 AI 를 절대로 믿어서는 안됩니다. 특히 중요한 일. 예를 들면 뭔가 계약을 한다든가 할 때 AI만 믿으면 큰일 날 수 있습니다. AI를 써도 여러 개를 써야하고 반드시 교차 검증이 필요합니다. 제가 여기 AI와 대화를 보여 드릴게요.
이건 제미나이입니다. 참고로 저는 유료 AI는 사용치 않습니다.
제가 제미나이에게 혹시 사람들이 한국에 대해 평가한 것이 있으면 몇 가지 알려줘라고 했더니 5개의 답변을 했습니다. 그래서 제가 아래 그림에 나타나는 것처럼 “5번의 출처는?” 이렇게 물었죠. 그랬더니 대답이 저렇게 나옵니다. 더구나 저는 이미 오래 전부터 제미나이에게 “추론이나 상상으로 대답하지 말라”는 명령까지 입력해 둔 상태거든요.
여기서 끝나지 않습니다. 하루 종일 계속해서 똑같은 거짓말과 헛소리를 늘어 놓습니다. AI는 끊임없이 거짓말하고 끊임없이 사기치고 끊임없이 사과하고 그리고 또 계속 반복합니다. 절대 AI는 믿으시면 안됩니다.
그러니까 혹시 안하셨으면 지금이라도 AI에게 명령을 하세요. 네가 앞으로 대답하는 것은 절대로 추론이나 상상으로 하지 말고 반드시 근거를 가지고 대답하고 니가 가지고 있는 상식으로 대답하지 말고 웹서핑을 한 다음 대답하고, 대답의 근거를 항상 제시해. 딱 이렇게 해 놓으면 약간 나아집니다. 물론 이렇게 해 놓아도 끊임없이 개소리를 하지만….
