Areostar
Не совсем подходит
Вопрос филосовский. По идее именно id должен определять надо добавлять данные или нет. Но у вас он похоже не имеет смысла. Его надо или удалить или корректно определить.

Где вы видели чтобы я советовал писать так????
 data = json.loads(handle.read())
            for record in data:
                jsonData.append(record)
Постарайтесь внимательнее читать сообщения!!!
Уберите этот тихий ужас.
Весь ваш код может выглядеть примерно так:
 import json
result=[]
for file_name in Path("...").glob(...):
  with open(file_name,"r") as f:
     result+=json.load(f)
for i,rec in enumerate(result): 
   rec["id"]=i
with open("some.json","w") as f:
   json.dump(result,f)

p.s.
1. Конечно этот код может привести к неконтролируемому росту дублирующихся записей. вам надо подумать о том что у вас первичный ключик.
2. Я отнють не советую делать так как написано выше. Ваши данные таблица. Надо сразу переделать их в таблицу и дальше работать как с таблицей и хранить как таблицу.