Favicon を設定すると、URLやページタイトルの横にアイコンが表示されます。
- アイコン（16×16 ぐらいの icoファイル）を、テーマフォルダのimagesにアップロードしておきます。
- header.phpを開いて、<header></header>の間に、次の1行を追加します。
※テーマフォルダの下に、images があるものとします。
<link rel="shortcut icon" href="<?php bloginfo('template_directory'); ?>/images/favicon.ico" />
以上です。プラグインを使うまでもありませんね。