TOON、LLMくんにはまだそれほど
踏み込んでないから分からないけど

トークン（消費するテキストの単位）が従来の
５０％増やすことができた？とのこと

要はLLMくんの詰め込みGKS効率が良くなったとのことで
より少ないVRAMで賢くできる？みたいな感じだろうか

もちろんそれほど単純な話でもないと思うけども
ちょっとした技術革新には違いないということで
トレンドに上がってきてるのだろう（推測）