プラグインを使わずにFaviconを設置する方法です。

１．Favicon に使う画像を用意しファイル名を favicon.ico に変更。

２．Favicon 画像を使用中テーマのメインディレクトリに設置（/wp-content/themes/xxxx）。

３．header.php のタグの上あたりに以下のタグを記入。

<link rel="shortcut icon" href="<?php bloginfo('template_directory'); ?>/favicon.ico" />

以上！