The maximum frequency must be less than or equal to Fs/2.

这个错误通常是由于你设置的最大频率超过了采样频率的一半导致的。根据奈奎斯特采样定理，采样频率必须大于信号最高频率的两倍，否则会出现混叠现象。因此，最大频率必须小于或等于采样频率的一半。

如果你使用MATLAB内置的FSK调制函数`fskmod`，可以通过将载波频率fc设置为采样频率的一半以内的值来避免这个错误。例如，如果你使用1 MHz的采样频率，最大载波频率应该小于或等于500 kHz：

fs = 1e6; % 采样频率
fc = 500e3; % 载波频率
txSig = fskmod(msg, M, fc, fs);

如果你需要使用更高的载波频率，你需要增加采样频率以避免混叠。例如，如果你想使用750 kHz的载波频率，你可以将采样频率增加到至少1.5 MHz：

fs = 1.5e6; % 采样频率
fc = 750e3; % 载波频率
txSig = fskmod(msg, M, fc, fs);

请注意，增加采样频率会增加计算量和传输带宽。因此，你应该根据实际需要选择合适的采样频率和载波频率。