人工智能系统很聪明，但也很脆弱
- 硅谷陈源-海外杂谈
- 2023-02-27 10:35:27
人工智能系统很聪明，但也很脆弱。
1. 在一个苹果上贴上iPod标签，AI系统就自作聪明地把苹果分类成iPod。
2. 研究人员在35英里限速的路牌上贴上一小块黑色胶带，把3字中间的一横拉长一点点，结果特斯拉自动驾驶系统误认为时速限制是85英里，猛加速。
3. 自动驾驶系统不敢跨越实线，被困在圆圈里。这些弱点如果被恶意攻击会很危险。
ChatGPT 80%的时候无所不知，非常聪明，但20%的时候却错误百出，看上去很愚蠢。
人工智能
1. 在一个苹果上贴上iPod标签，AI系统就自作聪明地把苹果分类成iPod。
2. 研究人员在35英里限速的路牌上贴上一小块黑色胶带，把3字中间的一横拉长一点点，结果特斯拉自动驾驶系统误认为时速限制是85英里，猛加速。
3. 自动驾驶系统不敢跨越实线，被困在圆圈里。这些弱点如果被恶意攻击会很危险。
ChatGPT 80%的时候无所不知，非常聪明，但20%的时候却错误百出，看上去很愚蠢。
人工智能
