요즘 대부분의 사람들이 AI를 사용할 겁니다. 저도 그렇고. 하지만 AI 를 절대로 믿어서는 안됩니다. 특히 중요한 일. 예를 들면 뭔가 계약을 한다든가 할 때 AI만 믿으면 큰일 날 수 있습니다. AI를 써도 여러 개를 써야하고 반드시 교차 검증이 필요합니다. 제가 여기 AI와 대화를 보여 드릴게요.
이건 제미나이입니다. 참고로 저는 유료 AI는 사용치 않습니다.
제가 제미나이에게 혹시 사람들이 한국에 대해 평가한 것이 있으면 몇 가지 알려줘라고 했더니 5개의 답변을 했습니다. 그래서 제가 아래 그림에 나타나는 것처럼 “5번의 출처는?” 이렇게 물었죠. 그랬더니 대답이 저렇게 나옵니다. 더구나 저는 이미 오래 전부터 제미나이에게 “추론이나 상상으로 대답하지 말라”는 명령까지 입력해 둔 상태거든요.
여기서 끝나지 않습니다. 하루 종일 계속해서 똑같은 거짓말과 헛소리를 늘어 놓습니다. AI는 끊임없이 거짓말하고 끊임없이 사기치고 끊임없이 사과하고 그리고 또 계속 반복합니다. 절대 AI는 믿으시면 안됩니다.
그러니까 혹시 안하셨으면 지금이라도 AI에게 명령을 하세요. 네가 앞으로 대답하는 것은 절대로 추론이나 상상으로 하지 말고 반드시 근거를 가지고 대답하고 니가 가지고 있는 상식으로 대답하지 말고 웹서핑을 한 다음 대답하고, 대답의 근거를 항상 제시해. 딱 이렇게 해 놓으면 약간 나아집니다. 물론 이렇게 해 놓아도 끊임없이 개소리를 하지만….
아래 한 가지를 더 추가합니다. AI가 어떻게 일하는지 한 눈에 알 수 있는 대답입니다.
여기 대답처럼 AI는 일을 하지 않습니다. 그냥 방구석에 누워서 지 머리 속에 들은 것을 가지고 대답합니다. 일단 머리 속에 들은게 많으니까 괜찮은 대답이 많습니다. 들어 있는 것으로 부족하면 그 때부터 상상으로 소설을 씁니다. 여기까지가 흔히 우리가 받는 대답입니다. 이 대답에서 한 발만 더 들어가서 니 정보가 맞느냐 확인하라고 하면 그때서야 비실비실 일어나 어슬렁거리면서 대충 이것저것 긁어와서 대답합니다. 하지만 아직도 직접 찾지 않고 일하니까 정보에 대한 업데이트가 제대로 되지 않습니다.
AI는 어무너무 게으른 정말 돼지같은 기억력 좋은 머슴입니다.
자 이게 ai가 실토한 내용입니다.
