結論から申し上げますと、スタイロフォーム 50mm のほうが断熱性能は高いです。
​断熱材の性能は、単体（素材）の強さを示す「熱伝導率」だけでなく、実際に使う「厚み」を掛け合わせた**「熱抵抗値（R値）」**で比較します。この数値が大きいほど、熱を通しにくい（断熱性能が高い）ことになります。
​それぞれの計算結果は以下の通りです。
スタイロフォーム（1種b） 50mm 0.036\text{ W/(m·K)} 1.39
ネオマフォーム 30mm 0.020\text{ W/(m·K)}

​※ホームセンターで最も一般的な「スタイロフォームIB（1種b）」と「ネオマフォーム」で比較した場合、わずかにネオマフォーム 30mm の方が高性能という結果になります。