「CoreOS」はLinux kernelとsystemdだけで構成された超シンプルなディストリビューション。Dockerと組み合わせて使うことを想定して作られているためこのような超シンプル構成になっているようです。
Dockerとはなんぞや?という人には以下のリンクの説明がわかりやすいかも。
初心者なりに理解したところでは、Dockerとは基本的に仮想環境を構築するためのもので、LXCと呼ばれる技術を使っているので、XenやVirtualBoxより軽量高速なところが利点。というような感じでしょうか。
CoreOSはDockerを上にのせて使うことを考えているので、その他不要なものをバッサリ切り捨てているのだと思われます。仮想化技術に関する最近の進歩はすごいものがあるので、実際に手を動かして触ってみたいですね。その方がイメージもわくし。