Вывести либо одно число c – длину стороны квадрата, либо 0, если квадрат не существует...

#include <iostream>
#include <cmath>
 
int main() {
    unsigned long long a, b;
    std::cin >> a >> b;
    double buf; // Она здесь не нужна, но без нее отказывается работать modf()
    if (modf(sqrt(a*b), &buf) == 0)
        std::cout << sqrt(a*b);
    else std::cout << 0;
}

for(p=2; n>p; p++) {
  int k = 0;
  while (n%p==0) {
    k++;
    n /= p;
  }
   // тут k станет равным количеству множителей p в разложении n
}

int sk = 1;  // Сторона квадрата
for(int p=2; a>1 && b>1; p++) {
  int k = 0;
  while (a%p==0) {
    k++;
    a /= p;
  }
  while (b%p==0) {
    k++;
    b /= p;
  }
   // тут k станет равным количеству множителей p в разложении a*b
  if (k%2) break;
  for(int i=0; i<k/2; i+) sk *= p;
}
if (a==1 && b==1) cout << sk;
else cout << 0;

int sk = 1;  // Сторона квадрата
int k;  // Обязательно вне цикла
for(int p=2; a>1 || b>1; p++) {  // Вот тут была главная ошибка
  k = 0;
  while (a%p==0) {
    k++;
    a /= p;
  }
  while (b%p==0) {
    k++;
    b /= p;
  }
   // тут k станет равным количеству множителей p в разложении a*b
  if (k%2) break;
  for(int i=0; i<k/2; i++) sk *= p;  // Тут была описка
}
if (k%2) cout << 0;  // Ну и тут условие было неверно ..
else cout << sk;

int main()
{
    unsigned long long a, b, c, k, ab;
    
    cin >> a >> b;
    ab = a * b;
    
    for ( c = 1, k = c; k < ab ; c++, k = c * c );
    cout << ( k == ab ? c : 0 );
 
    return 0;
}