WSL側

DISPLAY環境変数をセットする

export DISPLAY=$(cat /etc/resolv.conf | grep nameserver | awk '{print $2}'):0 

WSLの起動ごとにIPが変わるらしいのでこんな感じの処理を毎度読ませないといけないよう

Xlaunch

additional parameterの項目に-acを追加

WSL側

xeyes

これで無事起動できた

参考：

• WSL2におけるVcXsrvの設定 - Qiita
• WSL2＋Ubuntu 20.04でGUIアプリを動かす | AsTechLog