DockerでCouldn't connect to Docker daemonが出る場合の原因と解決方法

Dockerをいざ使おうとした時に、「ERROR: Couldn't connect to Docker daemon at http+docker://localhost - is it running?」というエラーが表示されました。この記事ではこのエラーの原因と解決方法をまとめます。