イゼルローン日誌

・だいぶ前の記事だけどもOpenAIとApollo Research、「o1」は自分の目的のために嘘をつくと報告というのが何となく目にとまった。
・なるほど、強化学習で報酬の最大化を図ると、人間には都合良さそうに見せかけながら己の目的を達成しようとするという方向になる。「滅私奉公」なんていうポリシーはありえないのだな。
・「なるべく楽をして利益を得たい」となってくるとなんとなく犯罪の香りがしてくる感じ。AIの行き着く先が詐欺師ということでは救われないな。

---