ChatGPTなどのチャットAIがどんな風に文章を認識しているのかが一目で分かる「Tokenizer」

OpenAIが開発したChatGPTをはじめ、さまざまなAIが人間レベルの会話を行ってくれるようになりました。AIは文章を読み書きするとき「トークン」という単位で認識を行うのですが、普通の文章がトーク

リンク元