Любимая матрица

a=3 
a =
     3
>> b=6
b =
     6
>> A=[1 4 7 12; 2 6 8 5; 3 2 4 6; 11 4 5 8]
A =
     1     4     7    12
     2     6     8     5
     3     2     4     6
    11     4     5     8

M =
     0     4     0     0
     0     6     0     5
     3     0     4     6
     0     4     5     0

>> a=3
a =
     3
>> b=6
b =
     6
>> A=[1 4 7 12; 2 6 8 5; 3 2 4 6; 11 4 5 8]
A =
     1     4     7    12
     2     6     8     5
     3     2     4     6
    11     4     5     8
>> mask=A>=a&A<=b %Вот они 0 и 1
mask =
     0     1     0     0
     0     1     0     1
     1     0     1     1
     0     1     1     0
>> A(~mask)=0
A =
     0     4     0     0
     0     6     0     5
     3     0     4     6
     0     4     5     0
>>

for ik=1:size(A,1)% возьмём отдельную строку матрицы с номером ik
  for ig=1:size(A,2)% в этой строке возьмём номер ig
    if A(ik,ig)<a|A(ik,ig)>b %Используя номера ik и ig достанем из матрицы 
      % отдельный елемент под этими номерами, сравним его с нижним пределом a, 
      % в результате сравнения получится какое-то логическое значение (правда или ложь)
      % далее сравним этот же елемент с верхним пределом b, в результате тоже получим 
      % логическое значение, далее будет выполнятся логическая операция или |,
      % так как она имеет меньший приоритет чем операторы сравнения < и > 
      % если хотя бы одно из полученых логических значений окажется правдой,
      % то результатом оператора или будет правда, и идущее далее выражение будет выполнено,
      % если нет, то оно будет пропущено, и произойдёт переход к следующей итерации ig=ig+1
      A(ik,ig)=0; %елемантам, содержащим значения не попавшие в заданый интервал, присваивается 0
    end
  end
end
A

a=3
b=6
A=[1 4 7 12; 2 6 8 5; 3 2 4 6; 11 4 5 8]
(A>=a&A<=b).*A