如何处理基于php的android应用程序的并发任务

我已经开发了一个非常基本的基于php的webservice与我的android应用程序通信。这工作得很好，我能够获得数据，但是当我同时尝试从多个设备甚至从浏览器访问该服务时，只有一个设备获得结果，其他设备继续加载，而成功的设备仍然能够从中获得结果。请告诉我怎样才能克服这个问题。

<?php
$con=mysqli_connect("host","username","pass","DB");
// Check connection
if (mysqli_connect_errno())
{
echo "Failed to connect to MySQL: " . mysqli_connect_error();
}

$sql="SELECT * FROM ScoreBoard a inner join Groups b ON a.User_ID=b.ID  ORDER By score DESC";


$return_arr = array();
if ($result=mysqli_query($con,$sql))
  {
  // Fetch one and one row
  while ($row = mysqli_fetch_array($result, MYSQLI_ASSOC))
    {
        $rows[] = $row; 
    }
  // Free result set
  mysqli_free_result($result);
}
echo json_encode($rows);
mysqli_close($con);

?>