アプリケーション→アプリケーションの管理→削除したいライブ壁紙のアイコンを選択し「削除」を選択→確認画面で「はい」を選択すると、壁紙が削除されます。

一度削除した壁紙は元に戻せませんので、ご注意ください。