对错是知道的,我记得我看到过一个具体描述这个问题的答案,大致是这样说的。chatGPT实际回答的下一个字/词都是计算的结果,首先我们要确认就是这个回答从语法或者组句上来说基本都是对的,只是回答的结果好坏未知。而回答的好坏是由人主观决定的,当有足够多的人参与使用chatGPT,那么也就在同步训练告诉chatGPT什么样的回答是好的,什么是坏的。
而认知方面,唯心的说作为人类我们只知道我们知道的,不知道我们不知道的。那么作为AI如果它知道了所有人类知道的,它仅仅不知道人类不知道的。那么对于人类来说 AI是可不就是全知全能呢?