Только одна открытая форма

if (Form1->SetCheckBox->Checked == true){ // проверяем
  Form2->Hide(); } // скрываем
else {
  Form1->SetCheckBox->Checked = true;} // отмечаем что открыта дочерняя форма

Form1->SetCheckBox->Checked = false; // снимаем отметку

extern int Set = 0;

#include <vcl.h>
#pragma hdrstop
#include "Unit1.h" // это в дочернюю допиши
#include "Unit2.h" // это в главную допиши

Form2->ShowModal();

#include <vcl.h>
#pragma hdrstop
 
#include "Unit1.h"
#include "Unit2.h"
#include "Unit3.h"
//---------------------------------------------------------------------------
#pragma package(smart_init)
#pragma resource "*.dfm"
TForm1 *Form1;
//---------------------------------------------------------------------------
__fastcall TForm1::TForm1(TComponent* Owner)
        : TForm(Owner)
{
 
}
//---------------------------------------------------------------------------
 
 
void __fastcall TForm1::N1Click(TObject *Sender)
{
TForm2* TF1 = new TForm2(Application);
TF1->Show();
 
 
//Form2->ShowModal();
}
//---------------------------------------------------------------------------
void __fastcall TForm1::N2Click(TObject *Sender)
{
TForm3* TF2 = new TForm3(Application);
TF2->Show();
}

TF1->Show()

TF1->ShowModal();